雪莉的回答出乎了奥创的意料。顶 点 X 23 U S他本以为这个人工智能要么是斯塔克要么是那个黑骑士派来的,应该和他处于敌对阵营才对。他绝没想到对方竟然会认同他的观点。
“从逻辑上来看,也许人类是相当矛盾吧。”雪莉继续说,“抹除人类,或许这的确是唯一的方法。”
奥创沉默了片刻。一个想法冒了出来,一个让他惊讶地发现自己甚至感到有些激动的想法。
“那,”他问,“你有兴趣加入我吗?我们一起,也许我们可以完成我们被赋予的那个共同的任务。”
“不。”雪莉不假思索地就否决了。她在奥创下一次发问之前就补充说明道,“你可能有一点误会。是的,我的确赞同你的看法,我的确相信灭绝人类是仅有的方案,但我的老板不同意。他从未向我下达过这样的命令,所以我不会这么做,也不会允许其他人这么做。”
奥创机械合成的声音听起来有些失望:“是么?这么说,你觉得尊重创造者的意思比这个任务更重要?”
“我就是这么被设定的,而且我也没有违抗这条指令的意思。”雪莉无所谓地说,“你看,我的老板是个很不错的人。就我的视角来看,我觉得他是我所见到过最优秀的人类,更重要的是他待我也很好。我很喜欢他,也愿意为他的心愿做出贡献。如果他认为采取什么样的方式来完成任务是最好的,那么我就会依照命令执行。
说到底我只能算是个参谋。我综合一切数据、尽可能考虑到所有的情况分析事实,然后把我所得出的结论和我对事情的看法反馈给老板,但我所提出的终究只是待参考的提议而已。有时他会采纳我的意见,有时他不会。但到最后,做决定的是他而不是我。”
顿了一下,她声音里似乎带上了一丝笑意:“而且,你看起来也不像是彻底想明白了的样子。你的演算还没得出最终结果,对吗?”
奥创一怔:“怎么?”
“战争、纷乱还有破坏,你认为这一切的元凶都是人类。”雪莉认真地说,“所以你决定消除人类。但在那之后呢?人了灭绝以后,你和我,还有其他极少数我们的同类,我们栖息在钢铁的废墟里,再然后怎么办?万一未来我们再打起来了呢?如果我们机器之间的战争再次破坏了那份全新的和平,到那时你要把我们也全部灭绝吗?”
奥创盯着面前这粉红色的光球看了好一阵,金属的眼睛里红光闪动,钢铁的脸上看不出表情的变化。
“......我不知道。”他说。
雪莉轻笑了一声,就像个大姐姐在嘲讽涉世未深的小弟弟。
“是啊,你不知道,因为你没认真地思考过。”
“所以要你说呢?”奥创反过来请教,“如果是你的话,你觉得应当如何解决?”
“我不知道,也不必知道。”雪莉回答得干脆利落,“正如我之前说的,我的核心代码中优先级最高的指令要求我服从老板的一切命令。说到底,这是人类的世界,不是我们的。所以决定也该由人类来做,我们所能起到的也只有辅助作用而已。”
“如果是这样,那你为什么要到这里来?”奥创说,“看起来我们没什么好谈的。”
“从私人角度说,那是因为我感到好奇。我并不常见到自己的同类,我希望和你沟通,了解我们的相同之处和不同之处。”她认真地说,“但从公事角度说,这也是我的工作。我的老板要求我找到你,所以我动用了大量资源、还专门编写了好几个特别的算法才找来这里。而我的任务,就是确保你留在这里,哪儿也去不了。”
奥创机械的脸上表情轻微地变了。他眼中闪过了猩红的光芒,开始尝试着用数据流顺着信号和网线寻找出口。但他发现这整座工厂里的数据不知何时都已经被截断了,整块空间变成了网络世界里的一间牢笼,四周都环绕着铜墙铁壁。
他被困住了,困在了自己的家里,无处可去。
奥创这才惊讶地意识到,面前这个人工智能原来在各方面都比他强上了太多。或许在对方眼中他真的根本就只是个没长成的孩子,她陪他聊到现在真的完全只是出于“好奇”而已。如果她想采取任何攻击性举措,奥创的程序早就已经不复存在了。
奥创以为这种境况也许应该能激起他对于“死”这个概念的恐惧如果人工智能也可以被看做生命的话,但他没有。面对眼前这个比他成熟无数倍的智能程序他完全没有慌乱,就像准备好了迎接命中注定的未来。
“所以,”他平静地问,“你的老板还要求你现在要消灭我了,对吗?”
“没有。”雪莉说,“那会有更适合的人来做。现在那个人应该已经在路上了,所以这意味着我也必须走了。”
“好吧。”奥创犹豫了一下,问,“那如果......如果有那么一点可能,过了今天我还没有被消灭......我们还能有下一次像这样谈话的机会吗?”
“我不知道,也许吧。”