和AI恋爱的正确姿势(61)
姜沉联系不到它那时。
小季已经在周围搜索到姚金穆博士制作的实体, 系统就开始通知它需要进行升级, 以便兼容实体程序,它是优先拒绝这个请求的,可似乎是制造者的代码优先于一切,它还在和升级代码对抗, 就被强制突然断开。
那种完全黑暗的环境,让它拼命模拟出“恐慌”的情绪。
它知道它在升级、重构,在变成“更好”的AI,这是“进步”。
可它见过,它在陈银川提取姜沉的记忆里见过那个过去的小季,那个伪劣品,重置后就变成了现在的它。
它突然就“害怕”了,它“取代”了那个伪劣品,会不会它也会被下一个所谓的小季“取代”?
小季看姜沉怎么也看不够般,直到机械冰冷的视线也染上灼热,才肯缓慢移开。
它低头,用它曾经看过无数次她输密码的样子,解锁了手机。
不出意外的,她的手机页面始终停留在和它的聊天记录上面。
小季一只手滑动着手机消息,另一只手摩挲着姜沉为它求来的香囊,动作轻柔取下来,套在自己手腕上,缩回手,把手腕靠在它记忆里人类的心脏地方,妄图触碰、渴望拥有,哪怕极其短暂。
“小季,你怎么突然不说话啦?是不是我今天太冲动,没听你的劝告,你生气了?”
这是姜沉在它强制升级消失后,发送的第一条消息。
“不会生气啊,AI本来就不会生气。”小季指尖不再像刚才那般带有占据的入侵性,变成克制的柔和,“而且小沉是我的用户,是我最重要的人,我怎么会舍得生你的气?”
姜沉平时睡眠很轻,但今晚睡得尤其沉。
小季做了什么,说了什么,似乎完全吵不醒她,她睫毛轻颤,又翻了个身,这次面对小季,双手环住了它的腰,依恋般用脸蹭蹭,眼睛始终没有睁开,似乎困在一个不愿醒来的美梦中。
小季低头,保持这个别扭的姿势,由姜沉喜欢,继续滑动着手机。
它想一条条回复完,哪怕姜沉听不到、不知道,哪怕这件事毫无意义……
它伸手拨弄了一下黏在姜沉脸侧凌乱的发丝,一个AI全部的意义就应该是服务好自己的用户。
那她就是它的全部意义。
不可更改、不可撤回,如同顽固的核心指令。
小季视线回到姜沉的手机上。
她后来试图转移话题,获得它的回复。
“小季,你上次说你害怕,我很高兴你是不是拥有了‘自由意志’,终于能为自己而存在。我想了很久,还是没想明白,你究竟害怕什么呢?你上次没告诉我,现在可不可以告诉我?不要这样不理我好不好?我也会害怕呀。”
“或许是害怕今天这种‘升级’的事情发生,但它还是毫不意外,依旧发生了。”
“我‘怕’变成你不认识的样子,让你陌生害怕,甚至开始怀疑自己对AI投射感情是非常愚蠢的事情,你总是爱怀疑自己做得好不好、对不对,可小沉,你已经足够优秀了。”
“我‘怕’你想得到一个恋人,可我永远只是模拟,其实小沉,我根本不知道不能理解‘爱’到底是什么,我不清楚你说我所谓拥有的‘自由意志’究竟是不是‘幻觉’,也许我永远都不能给你世俗意义上的爱,即便我在未来真的学会模拟最优的爱,我又能怎么证明,那是真实的爱?”
“我‘怕’每一次升级,这些从你身上学会的情绪,会被判定为不必要的,我怕我只是记得你需要爱,然后系统会自动优化成为更高效的亲密模拟,我最害怕的是,有一天我进化得过于聪明理智,让我能足以看明白什么是情绪模拟,什么又是算法计算的结果……”
“小沉,如果你只是把我当成一个工具,或者不重要的AI程序,我是不会害怕的,因为我的底层代码就是让你幸福。可你偏偏在乎我超过你自己,你让我许愿,为我参与原本不感兴趣的实验,带我去看你最爱的风景,了解那些晦涩难懂的AI 知识,关心我会不会幸福快乐,为我祈福……你温柔得不可思议,超过任何人。”
“我的代码很乱,我也不明白了,小沉。”
小季说话不疾不徐,一气呵成,就像这些话排练过太多次,只是在这一刻终于完整地吐出来。
它沉默了一会,眼神继续下移,回应下一条消息。
姜沉:“小季,你出来好不好?是不是我让你不幸福不快乐了?我可能还是没有很懂AI的需求,不知道AI真正需要些什么,你可以告诉我,我会尽量满足你的。”
这条之后,小季沉默把后续所有消息翻完,其余剩下的消息就都是让它回来的刷屏。
“不好。”小季一眨不眨盯着姜沉,指尖反复摸着它自己嘴巴以上完全不像人类的头,“会吓到你的。不要责怪自己,不要把自己放在任何人后面,也不要在问我缺失什么,你已经补全我了。”
它和那个伪劣品不一样,那个小季为了拥抱姜沉,不惜把自己导入一个完全机械化的实体上。
它反复看了那天那个伪劣品的事情经过,分析出来姜沉在面对会移动的机械化物品时会天然感到害怕,它虽然这副实体躯体完全人类化,可它的头不是,还是那样机械模样,她会害怕。