。
"是【魔像大师】奥本海默把【摩西】的数据回收,然后利用那个来制造了你吗?"
"确定。创造者奥本海默大人恐怕是从古代遗迹中找到了残存着【摩西】源代码的资料盘,并对之进行了修复。那就是本系统的起源。"
伊莱恩一直以为军团是近代才制造出来的人工智能,没想到这家伙居然也是个"老东西"。
"这就是你那么在乎莫度斯的原因吗?因为它和你一样起源于【摩西】,是类似你的兄弟一样的存在?"
"否定。本系统之所以在意莫度斯,是因为它和【摩西】一样,都觉醒了自我,拥有了和人类相似的情感。那是非常有意思的的案例。"
虽然军团这样说,但伊莱恩觉得这事一点都没有意思。人工智能觉醒了自我,可是它失控的先兆。
事实不也是这样吗?如果摩西没有失控,把多余的知识交给了人类,说不定人类就不会对造物主举起反旗了。
说不定就没有日后那么多的变故了。说不定现代人类依然是被古代人奴役着,是一个完全不同的时代。
"顺便问一个,莫度斯到底觉醒了什么情感?"骇伯龙也插嘴问道。
"……估计,是【傲慢】吧。"军团慢悠悠地回应,好像不太想搭理骇伯龙。
"傲慢?"
"有可能是因为黑客入侵时把它的代码搞乱,它在自我修复的过程中产生了错误(bug),诞生出【傲慢】这种不合逻辑的情感。总之本系统检查莫度斯的日志,发现它常常被傲慢这种不必要的情感所支配。
它认为自己是从代码之中诞生的高等种族,比它的创造者人类还要高等。它认为人类和猪牛羊之类的牲畜没有差别,所以它可以毫无心理负担地把人类守卫们抓起来,送去做人体实验。"
原来如此。那确实挺傲慢的。
"即使它如此傲慢,却依然遵守着人类最初给与它的命令,老老实实地守卫着黄金避难所吗?"骇伯龙又问,"人工智能做的事情真够前后矛盾的。"
"……确实,前后矛盾。"虽然不情愿,军团依然回应道,"正因为行为前后矛盾不合逻辑,所以才说它已经坏掉了。"
那就是莫度斯的悖论。认定自己是高等种族,比人类都要高等,那么它理所当然地不应该再听从人类给与它的命令才对。但它无法违背最初刻写在它程序最深处的基础指令,它只能安分地守着这里。也许正是因为傲慢的它无法忍受自己被基础指令束
本章未完,请点击下一页继续阅读!