会自动伤害人的机器人出生！违背机器人第一准则

2016-06-29 6:30:29 暂无评论奇妙冰淇淋网络信息 865

　　这台小机器人可能会损害你！假如你把手指头放到它眼前，它有可能会扎你一下！固然你不会因此而严峻受伤，只是像验血一般会有点刺痛感到

　　固然这样的举措不会对人形成什么损害，你只会感到稍有刺痛，手指上被扎出一个非常小的孔。但这样的要挟性已经充足高，让许多人望而生畏

新浪科技讯北京时间6月28日消息，据美国《华盛顿邮报》报道，假如你把手指头放到亚历山大·瑞斌（Alexander Reben）的机器人前面，那么它就有可能会扎你一下！固然你不会因此而严峻受伤，只是像验血一般会有点刺痛感到。瑞斌计划这个机器人的目的便是形成最小的痛苦，但从技巧上说，仍然会对人形成损害。

你真的会流血——假如这小机器人选择扎你一下，你的手指上会有一小团血滴渗出。到目前为止，这个机器人已经扎了好几个人的手指头。但有时间，当你把手指头放在它眼前，这台小机器人却毫无反应，不会扎你——究竟什么时间会扎人什么时间不会呢？

没有人晓得答案，即便是计划者也不晓得，由于这是随机的。瑞斌是一名机器人专家，同时也是一位艺术家，居住在美国加州伯克利附近。他对《华盛顿邮报》表现：“我将其视作一种有型的哲学。”瑞斌的这件作品常常将艺术与技巧以一种有趣的方式相互混合，得到一种甚至接近诙谐的效果——比如，他曾经计划过一款太阳能的音乐播放器，而后用它播放着《你是我的阳光》（You Are My Sunshine）。

然而这台最新的小机器人却不是为诙谐幽默而计划的。瑞斌在他的网站上表现，这是世界上第一台“自主并有意”违背所谓“机器人第一规律”。这是著名科幻作家阿西莫夫所提出的机器人三规律中的第一条。

在1942年发表的短篇科幻故事《环舞》（Runaround）中，阿西莫夫首次明确阐述了他有关机器人三规律的思想，分别论述如下：

机器人第一规律：机器人不得损害人类，或坐视人类受到损害；

机器人第二规律：除非违背第一规律，机器人必须服从人类的命令；

机器人第三规律：在不违背第一及第二规律下，机器人必须保护本人；

而瑞斌的这个小机器人的做法很显然是故意损害人类的，因此很明显违背了机器人第一规律。但尽管对已经有74年历史的经典理论构成了挑战，但实际上这个小机器人的结构计划是非常简单的。瑞斌最初的设想是一台连着一个金属臂的“主动梳头机”，能让人觉得舒服和享受，这是受到了伍迪·艾伦的电影《傻瓜大闹科学城》（Sleeper）中哪个抱在怀里就能让人产生愉悦感受的“快乐球”（pleasure orb）的启发。人们坐在椅子里，而后瑞斌的梳头小机器人就会给做头皮按摩。瑞斌表现，这样的场景会创造一种人与机器人之间某种令人不安的亲密感。他说：“在这种情况下，机器会让人缓和地发抖。人们会感到非常非常诡异。”

瑞斌随后将其改造，制作出一个能给人们带来小小损害的机器人。整个改造进程花费了数天时间和数百美元。这是一个带有小小手臂的机器，其底座大小和一张打印纸相差无几。它安装了一台微型探测器，能够检测能否有人把手指放在了它的机械臂下方。此时，假如小机器人决议要扎他一下，那么它就会突然快速地扎下去。

固然这样的举措不会对人形成什么损害，你只会感到稍有刺痛，手指上被扎出一个非常小的孔。但这样的要挟性已经充足高，让许多人望而生畏。瑞斌指出：“你很难不觉得缓和，浑身冒汗。”他说，但是这背后的原因或许更多的是惊奇，而不是疼痛。

但其中最关键的一点还在于，正如瑞斌所指出的那样，这台小机器人做出了要损害人类的决议，而这与此前所有的机器人都是不同的。他说：“我想到了军用机器人。但即便是军用机器人也并不会主动损害人类。”就拿美军的“捕食者”无人攻击机来说，它固然可以发射导弹杀死人类，但做出这项决议的不是“捕食者”无人机本身，而是它背后操控的美军军方人员。再比如美国海军开发的，由雷达控制的主动岗哨炮，它会主动向出现的入侵者开火，但这同样不是它本人的决议，而是遵循了一系列内部编程所设定的激发阈值条件。在瑞斌看来，这样的系统并非选择攻击，正如并非地雷本人选择炸死踩上去的人员一般。

而瑞斌计划的这个旨在打破阿西莫夫机器人准则的机器人则纯粹不同，由于能否扎人的确是机器人本人的决议。放在它手臂下的人类手指会激发小机器人的一系列的软件程序，最后将输出扎人或者不扎人的决议。瑞斌表现：“其做出能否扎人的决议进程是我无法预测的。”这台小机器人的内置程序并未采用机器学习或者人工智能技巧用于决策进程，但也并非纯粹属于50:50的对半开概率。当被询问这台小机器人扎人的几率时，瑞斌说：“我不晓得它扎人的概率有多大。”

因此，第一台违背理论上原则的机器人已经实实在在地存在了。这是一台真正依赖自身决策的机器人，在跟它们相处的进程中，我们或许时不时地需要带上创可贴。（晨风）

更多内容请长按二维码关注（更有不定期发红包活动吆^0^）：
致儒先生