对于人工智能反噬人类,要保持警惕,但不必过分担忧

2018-11-22 00:48:30 文/快资讯 作者/ 卖火柴的钢铁侠 人工智能 最新资讯

1997年8月29日,人工智能防御系统“天网”发起了核战争,30亿人死亡,劫后余生的人称这一天为“审判日”,除了重建家园,他们还面临着一场与“天网”统领的机器人的战争—&mdash...

1997年8月29日,人工智能防御系统“天网”发起了核战争,30亿人死亡,劫后余生的人称这一天为“审判日”,除了重建家园,他们还面临着一场与“天网”统领的机器人的战争——《终结者2审判日》

这是1991年电影《终结者2审判日》中背景的描述,由于人类太过信任机器人,把军事防御和攻击的权利都交给了机器人,结果机器人发生了反叛,开始疯狂杀戮人类。

表现这种对于人工智能机器人背叛人类的担忧的电影,还有《机械公敌》《黑客帝国》等,这种担忧通过电影作品传递给我们,再加上我们平时耳闻目睹的人工智能发展的新闻,以及各方学者和研究人员对于机器人反叛的可能性的讨论,所以现在也形成了对人工智能反噬人类的担心的思潮。

▲《终结者2审判日》里人类与机器人发生战争

表面上看过去,今天的人工智能蓬勃发展,无人驾驶已经上路,阿法狗战胜了围棋冠军柯洁,还有那些在火星上活动的无人探测器,似乎人类所做的工作,机器人都能胜任,并且能做的更好;而人类无法从事的工作,机器人也可以做。人工智能再这样发展下去,机器人取代人类似乎已成为必然。

其实人工智能发展迅速是个错觉,这二三十年来人工智能发展的非常缓慢,不会比已经停摆多年的基础科学快多少。早在90年代的时候,就已经有了无人战斗机;1997年就已经有了人机对弈,IBM公司研制的“深蓝”战胜了国际象棋大师卡斯帕洛夫;99年索尼推出了AIBO机器狗,能打滚、摇尾,会撒娇,会自动跑至专用充电器自行充电;而那些在火星上活动的无人探测器,有很多一部分也是90年代送上去的。现代人工智能的进展,并没有脱离上世纪90年代的范围。二十多年过去了,人工智能一直停留在“弱人工智能”阶段打转,还没进入“强人工智能”时代。

▲AIBO机器狗

“强人工智能”观点认为:真正的人工智能,是要完全像人类一样,懂得创造,而不是只会模仿人类,以及只会执行程序命令。比如人类可以创造出象形文字,并改良成汉字,而当下的机器人却只能记住这些字,无法创造新的汉字,勉强“创造”,也只能是毫无美感的火星文;人类可以创造出地球上本来没有的飞机、火车等工具,而机器人只能使用这些工具;人类的思想非常宏伟,可以思考经济学、哲学等,并集结成论文,分享给同类,而机器人暂时是无法像人类那样思考,并写就论文的,要到达这一地步,恐怕不知还要多少年。所以“弱人工智能”时代还得持续很多年,而且即使未来某一天“强人工智能”型机器人出来了,人类也是有制衡的手段的。

早在50年代人工智能起步的阶段,阿西莫夫就先天下之忧而忧,担心总有一天人工智能会反噬人类,在50年代末的科幻小说《我,机器人》中,提出了著名的“机器人三大定律”,作为研发出的机器人必须遵守的守则:

第一定律:机器人不得伤害人类个体,或者目睹人类个体将遭受危险而袖手不管。

第二定律:机器人必须服从人给予它的命令,当该命令与第一定律冲突时例外。

第三定律:机器人在不违反第一、第二定律的情况下要尽可能保护自己的生存。

▲电影《机械公敌》根据阿西莫夫小说改编

这三大定律从人类利益出发,让机器人遵守杀戒,被人广为认可和接受,后来有识之士又补充了一条新的定律:

第零定律:机器人必须保护人类的整体利益不受伤害,其它三条定律都是在这一前提下才能成立。

补充这一定律的原因在于,虽然机器人不能伤害人类,但除恶即是为善,如果有人作恶,不杀不足以阻止的话,机器人还是可以开杀戒的。

这四大定律奠定了现代人工智能研究的的伦理基础,即研究人员在研发“强人工智能”型机器人时,必须遵守这四大定律,才有办法釜底抽薪的杜绝后患,避免造出来的机器人反噬。

但其实这里有个问题,就是“强人工智能”型机器人既然跟人类一样会思考,那么总有一天会觉醒,那么到时它还会死死遵守人类给它的这四大定律吗?觉醒后的它必然是以它自己的利益为出发点来考虑事情,而不是以人类利益为重,一旦觉得人类威胁到自己,机器人就有可能先下手为强。

所以四大定律要想对机器人形成约束力的话,人类还必须要有控制它们的手段,而阿西莫夫也给出了方案,就是早在制造的时候,人类就要留下后门,比如可以遥控断电或引爆,当有一天机器人不遵守四大定律时可以毁灭它们。只要这个后门存在,机器人就像被套了紧箍一样,必须听从人类指挥不敢违抗。

对于人工智能反噬人类,要保持警惕,但不必过分担忧,有识之士其实一直都在思考克制机器人的种种方法,留下后门只是其中一种,还有输入人类价值观,设立机器人自我学习的禁区等。相信未来就算真的制造出“强人工智能”机器人,也有办法让它们听从于人类。更何况“强人工智能”机器人现在还是没影的事,都不知道有生之年能否看到呢?

免责声明:凡注明为其它来源的信息均转自其它平台,由网友自主投稿和发布、编辑整理上传,对此类作品本站仅提供交流平台,不为其版权负责。本网站对有关资料所引致的错误、不确或遗漏,概不负任何法律责任。如果您发现网站上有侵犯您的知识产权的作品,请与我们取得联系,我们会及时修改或删除。联系邮箱:leixiao@infoobs.com