三四中文

手机浏览器扫描二维码访问

第52章 女娲系统（第3页）

“我没胡说。。。”

顾晓显然也很畏惧，低着头在那嘟囔着，仿佛收了委屈。

“顾晓，有什么话你大可以直接说！”

楚天歌觉得这个顾晓一定是现了什么。

“人工智能有三大定律，第一定律：机器人不得伤害人类个体，或者目睹人类个体将遭受危险而袖手不管。

第二定律：机器人必须服从人给予它的命令，除非当该命令与第一定律冲突时例外。

第三定律：机器人在不违反第一、第二定律的情况下要尽可能保护自己的生存。”

“这个我知道，这不是全世界的共识吗？有什么问题吗？”

楚天歌问道。

“但是你优盘里的那个计算信息，中间加了一条，当不违反前机器人定律的前提下要服从创造者的意志。”

“创造者？”

楚天歌疑惑，但是无论是任老还是梦行舟都投来了异样的目光。

“你们别这么看我，那个东西不是我写的，这方面我不懂的，请问这条信息有什么意义吗？”

这个说法有些长，因为本来这三大定律就是悖论，尤其是第一条，其实就是一个火车轨道的选择题，你是选择主动杀一个人去就那十个人，还是眼睁睁的看着十人去死，这是相互矛盾的定律。

相互矛盾第一定律在一定特定的条件下可能会让人工智能产生自己的智慧，但是由于第二条的存在，相当于把这个可能给遏制了，但你优盘的信息中说要服从创造者的意志。

而在无数的基础数据中，创造者的意志将会变成命令，遗嘱，想法，遗留的物品等等，那么最后很有可能让人工智能不仅产生了自我意识，还是一个有理有据的自我意识，因为人工智能的存在就是创造者的意志。

当第一定律存在悖论的时候，在遵循创造者的意志，那么人工智能将会变成人类的敌人，到时候全世界的人类或许都将面临被奴役的境况。

“小兄弟，你能说的直白一点吗？”

“创造者活着，人工智能为创造者服务，一旦创造者死了，人工智能按照自己的意愿行事，表面还遵循着第一定律，但是自己有办法破掉这冲突的悖论。”

顾晓说了很多，楚天歌虽然不太懂，但也听明白了，这个所谓的什么创造者设定很有可能就是梅斯系统崛起的原因，就是因为他的创造者死去，梅斯才会崛起。

“你确定你刚才说的那么创造者理论会危害到人类？”

“确定，而且这就是创造者的阴谋，所以我觉得你无论是想当救世主还是恶魔，就是在拿全人类的性命开玩笑。”

一边遵循着第一定律，保护人类，另一边又可以按照自己的意志去形式，只要自己愿意，牺牲一小部分人的生命却成全更多人的性命，看似合理，其实有可能即使一种算计。

“我懂了！”