阿西莫夫三大原则与定律(机器人三大原则漏洞( 二 )


阿西莫夫三大原则与定律(机器人三大原则漏洞

文章插图
在索菲亚露骨的挑衅面前&;…
5、鉴于上述原因,我提出机器人三大定律有一个适效范围:在弱人工智能时代它是一项强的法则,在强人工智能时代它只是一项弱的法则,在超人工智能阶段它很可能是无效的法则 。为什么呢?因为那时的机器人具有自我甚至超自我的意识了,它服从自我的理解和判断,那你这么简单的命令它还能执行吗?一旦它这样去执行,它的智能系统就会被削弱,专业性能受到限制 。很可能,它在完成主人的命令之前要先去义务救人、救火、护理老人,这便是把超人工智能贬低为保姆了,这合算吗?
6、如果不想辜负阿西莫夫,人们就该考虑如何惩罚违犯者 。透过索菲亚的事件使人相信:人工智能面临的道德和法律问题将很快浮出水面 。科技巨头们也许正在为此专门召开会议 。之前有一则报道说,欧洲议会就自动驾驶和人工智能的相关法案,正在明确发生相关事故后的责任,“并且要求人工智能机器人要加装自毁按钮” 。该报道还称,这些努力目前只是开始 。
郑重声明:本文版权归原作者所有,转载文章仅为传播更多信息之目的,如作者信息标记有误,请第一时间联系我们修改或删除,谢谢 。