机器人学会"说谎" 未来会带来怎样的后果?(图)

3gds





仿真机器人 资料图片

美国趣味科学网站8月24日播发一篇题为《机器人学会说谎》的文章称，人们总是在说谎。如果机器人要与人类相处，与人类共同生活和工作，那么它们应该被允许学会说谎吗？如果这只是为它们好呢？文章摘要如下：

在瑞士进行的一项实验中，10个装有方向朝下的传感器的机器人为\"食物\"(地上一个浅色的圈)展开竞争。在实验室的另一端，放置着一个暗色的圈--\"毒药\"。机器人的得分取决于它们在食物和毒药附近停留的时间。

实验者是工程师莎拉·米特里、达里奥·弗洛雷亚诺和进化生物学家劳伦特·凯勒。他们让机器人具备彼此交谈的能力。每个机器人都能发出指示食物地点的蓝光，而其他机器人可以看见这种蓝光。一段时间后，机器人进化到在食物地点问题上相互欺骗。

控制每个机器人的人工神经网络使这种进化成为可能。每个机器人体内共有264比特的基因组，它决定机器人如何对传感器收集的信息作出反应。

研究人员设计了一个多轮测试系统，在每一轮测试中，10个机器人分成几个组在不同区域为\"食物\"展开竞争。经过100轮测试，得分最高的机器人(达尔文\"适者生存\"理论中的\"适者\")能够\"生存下来\"并进入下一轮。

一开始，机器人随意发出蓝光。但当它们找食物的表现更好时，蓝光传递信息的能力也随之增强，机器人逐渐被蓝光吸引。代表食物的浅色圈只能容纳8个机器人，因此它们要通过竞争才能获得\"进食\"的权利。当研究人员让蓝光的闪烁随机器人的其他行为一同进化时，这种竞争的效果逐渐明显。

和以前一样，机器人一开始也是随意发出蓝光，而当它们开始围着食物转圈时，蓝光闪烁加快，暴露了机器人的位置。更成功的机器人的行动因此变得更隐蔽。在第50轮测试中，它们在靠近食物的地方发出蓝光的可能性比在区域内其他地方小得多。

科幻小说家已经向我们展现了机器人说谎可能带来的某种后果。你可以回忆一下根据阿瑟·克拉克1982年的小说《2010太空漫游》改编的经典同名电影，钱德拉博士至少知道在1968年的电影《2001太空漫游》中，HAL-9000机器人为什么杀死一名宇航员。
（责任编辑：徐晶慧）