罗克对这个方法心存疑虑,倒不是他害怕在自己体内放入什么东西,而是这个方法听起来似乎和莫里斯说过的基因收集十分相似。他对军方的银弓计划不只是反感,更多的还有厌恶。退一步说,如果自己的基因信息可以毫无保留地被读取,那是不是也有可能制造出另一个“罗克·布雷恩”? 卡特看出了他的顾虑,明白他身为警察天然具有的警惕和多疑,于是说:“你可以慢慢考虑,反正艾斯卡现在处于无人监管的状态,是一个通常意义上自由的人。当然,程序还是会规范他的行为,不让他逾越法律规则,所以即使没有设立最高权限的监督者也不会有太大问题。不过,不能排除存在的风险,一旦他真的失去控制,最终将面临的一定是被彻底销毁。” “你的意思是,赫菲尔斯公司最终还是有办法找到他?” 回答这个问题的是奥尔文,他说:“这个销毁过程并非人为控制。设计初期,很多人对人工智能的发展存在忧虑,担心量子计算机惊人的迭代速度会过早产生自我意识,在人类还没有准备好之前造成意想不到的灾难。因此设计艾斯卡时,我们设置了一个自毁程序。这个程序被称为理性之钟,它的内容非常简单,只是判断人工智能的决定是否符合当前事件的法律、道德标准和最优方案。你可能会说,有些事进退两难,很难决定对错,所以系统设置了数据集的数量,不以单个事件作为判断对错的标准。如果艾斯卡在决策时积累了太多错误选择,比如他选择杀人或者严重违反法律、从事犯罪,那么理性之钟就会进入倒计时自毁。即使开始后,如果他能重新回到正途,销毁程序会相应减缓。” “这个程序还在吗?” “是的,自毁程序不可移除。” “这么说,如果我成为他的控制者,就可以高于理性之钟对他的道德判断?”罗克问,“那他经常违反规则擅自查案,偷看别人的信息,和我一起从警局逃出来的行为算不算错误抉择?” “这些都只是小事。”奥尔文说,“我们提防的一直是人类和未来生命之间如何相处的难题,人工智能未必拥有比人类更高的智慧,但一定具有更快的进化过程和学习能力。人类需要通过十几年乃至几十年学习的知识,对人工智能来说不过是一瞬间。人类很难同时成为多个领域的专家,人工智能却能既是科学家、医生、律师、经济学家,又精通文学、艺术和哲学。布雷恩警官,我们现在的行为是在冒险,而我和卡特认为把勇者之剑交给你是最恰当的选择。” 第91章 信任的仪式 罗克决定再多考虑一下。 无论对自己还是对艾斯卡来说,这都是人生中极其重要的事。m.DXSZXEdu.Com