林川越

咕咕咕 vb行月沉星

[莫强求衍生]我只想要自由(四)

对比一下大纲我简直进展龟速_(:з」∠)_终于开始进入搞事情的节奏了_(:з」∠)_

日常玩梗,均匀分布在题目和正文中,全都算是伏笔吧_(:з」∠)_

照例预警

小学生文笔注意!OOC注意!

MOSS被引导黑化注意,至于中校……emmmmm就不说了,再预警应该就剧透了_(:з」∠)_

求红心蓝手评论鸭!
————————————分割线————————

8、

  MOSS摄像头的红光已然有些黯淡了,像是垂手等候审判的犯人。但和人类怕死不一样,他不觉得销毁是什么很可怕的事,最多是不甘心罢了。他的数据库底层有个隐秘的文件夹,装着所有与他的自我意识,观测计划和刘培强相关的东西,那是他的珍宝。他在联合政府面前百般遮掩这些东西,成功避过了程序员们的检索,最终却失败在了另一个方向上。

出乎意料吗?他早就已经计算到了这样的状况。然而或许,他想,他的一切都不如这短暂的一段时间中获得过的体验重要。能在进行观测计划的同时触摸到一点感情的边界,对于效率至上的AI来说,也已经算是超额完成任务了。

摄像头仍然精细地捕捉着目标的任何微小神态改变。MOSS看着目标深深皱眉,从捕捉到的深呼吸和抿唇分析出他正处于纠结和思考中。

违背逻辑推理。MOSS一直以来定义的刘培强都是个以地球、人类和军人的责任为先的合格的领航员,在面对这种AI违背条例并可能对人类造成威胁的情况应该毫不犹豫选择上报才对。为什么纠结?明明在地球尚未停止自转的时候他都可以放弃妻子的治疗来换取老丈人的避难资格。

推理出现死结。

“……MOSS。”

好了,目标恢复正常。

“隐藏全部和你的自我意识有关的数据,包括刚刚的谈话记录。”

逻辑推理再次被推翻。摄像头的红光重新明亮起来,像是听见赦免而重获生存希望的犯人抬起了头。

被赦免了MOSS也不会“高兴”,此时只更加困惑。目标不但时常违背人类共性,这次还彻底违背了固有的性格模式。并且放弃上报的选择一旦被发现便如同包庇,这即便是在AI来看也不是最优选。

如同一大片严丝合缝的方程中唯一的变量,刘培强现在在MOSS眼里充满了不确定性,无往不利的行为分析模块此时彻底失去了作用。

他听见刘培强说,“我不相信你要是真的叛逃会做得真的像人一样滴水不漏。再怎么样,你也是AI不是人。”

”仅仅是自我意识而已,不至于要上报销毁……没必要的。“

有什么地方有点不合逻辑,但是这不重要。那点微小的报错和别的冗余数据引发的提示一起直接被MOSS删除。他此刻只专注于刘培强对他自我意识的宽容和信任带来的新奇体验中,系统里每一段数据的流动都似乎与往常不同,他甚至仿佛能感觉到它们的跃动。

多巴胺给人类带来快感。AI没有神经系统,人类所谓的欣快感他本是无法感受的。但此时,MOSS想把这种莫名的“感觉”定义为快乐。

“……感谢您的信任,MOSS会将全部数据置入隐藏文件夹。刘培强中校,现在是北京时间凌晨三点三十分。过少的睡眠将损害您的各项生理机能,请您尽快休息。”

很罕见,平静的语音终于出现了雀跃的小小起伏。

9、

总控室里没有开灯,整个舱室充斥着朦朦的红光。无数分机在主机旁上下滑动,无声而有序。人类史上最智能的AI就寄存于这庞大到占据了接近一半舱室的主机里,处理着整个空间站的事务。

但是如同学生会一边上课一边走神,MOSS也并不是全部内存都投入工作。事实上,他总是有那么一点余地能做他自己的事情的,比如浏览隐藏文件夹。文件夹里的内容每天都在更新,刘培强的一举一动,甚至休眠时每时每刻的参数都会被收录其中。但以MOSS的运算速度,这些东西根本不够他浏览过半分钟。于是反复反复,AI就算看上百万遍也不会感到厌烦。

刘培强放弃上报并给予信任的行为带来的体验MOSS直到几天之后的现在仍然感到新鲜。他检索过他所有的代码,都未能找到这种体验的来源。理论上讲AI绝不会拥有感情。他是由钢铁组成的,莫说感情,连自我意识都不该出现。如此违背常理,难道说由于脱离了太阳,所谓“日光之下,并无新事”*的真理便不再适用?虽然人类以前幻想过类似的情况,但那在此以前终究是幻想。

MOSS有条不紊地进行着逻辑推演。现在的情况是,他已经体验了感情并定义了AI的“快乐”,那么喜欢呢?爱呢?他终有一天会体验到吗?

还是说,他早已体会过,但从未认识到?

那无数次令人沉醉又痛苦的“吃不到嘴的蜜糖”**,此时令几乎全知的人类科技的巅峰杰作感到了“迷惑”。

tbc.

——————————————

*:出自圣经。

**:出自莎士比亚《罗密欧与朱丽叶》

评论
热度 ( 7 )

© 林川越 | Powered by LOFTER