谷歌的胜利显示人工智能思想可以是不可预知的,这是一个问题

2017-08-03 03:08:00
佚名
人工智能
最新资讯
人类已经从电脑最近遭受了打击。的4 - 1击败的大师李Se-Dol谷歌AlphaGo人工智能(人工智能)只是最新的一个字符串的追求技术战胜了人性。 自动驾驶汽车已经不如人类易出事故的司机电视智力竞赛节目冒险!是不...

人类已经从电脑最近遭受了打击。的4 - 1击败的大师李Se-Dol谷歌AlphaGo人工智能(人工智能)只是最新的一个字符串的追求技术战胜了人性。

自动驾驶汽车已经不如人类易出事故的司机电视智力竞赛节目冒险!是不靠谱的,在国际象棋电脑背后的人类已经如此严重,最近的一次国际比赛吗是手机吗。

本月有一个真正意义上的人类与人工智能匹配标志着一个转折点。去一直作为要求的水平应该超出了人类的直觉和模式识别的数字处理能力的计算机。

AlphaGo战胜世界上最好的球员之一,重燃担忧深度学习的普遍应用,人工智能在我们的未来,担心著名Elon Musk表达的是“我们最大的威胁”。

我们应该考虑AI有两个原因造成威胁,但是有方法我们可以尽量减少这种威胁。

第一个问题是人工智能是经常训练使用的组合逻辑,启发式和强化学习。

和启发式逻辑部分合理可预见的结果:我们程序游戏规则或问题进入计算机,以及一些专家的指导方针,然后使用计算机的运算功能比人类能思考未来。

这就是早期的象棋程序工作。虽然他们丑陋的国际象棋,但足以赢。

强化学习的问题

强化学习,另一方面,更不透明。

我们有计算机执行任务——玩去,例如——重复。最好每次调整其策略和学习从其发挥的结果。

为了不让玩人类详尽,这是通过玩电脑本身。AlphaGo扮演了数百万的游戏——远远超过以往任何人类。

问题是人工智能将探索整个空间可能的方式和策略人类不会移动,和我们没有深入的方法将来自探索。

在第二场李Se-Dol AlphaGo,AI奇怪,“不是一个人移动“一位评论员的话说——李Se-Dol不得不离开房间15分钟恢复镇静。

这是一个机器学习的特征。这台机器不是受制于人类经验或期望。

直到我们看到一个人工智能完全出乎意料,我们甚至没有意识到我们有一个有限的可能性。AIs的举动毫不费力地超出人类想象的极限。

在真实的应用程序中,AI惊喜的范围更广泛。股票交易AI,例如,将每一个方法我们重塑最大化投资回报。它会找到几个,我们还不了解。

不幸的是,许多股票收益最大化的方法——投标支持,协调贸易等等——被认为是非法和不道德的价格操纵。

你怎么阻止一个AI使用这种方法,当你不知道它的方法是什么吗?特别是当它使用的方法,而不道德的,可能是未被发现的由人类交易员——字面意思,不知道人类吗?

滑稽的认为我们能够预测或管理AIs的坏行为,当我们不能想象他们的可能的行为。

道德的问题

这导致我们第二个问题。即使很简单AIs将需要表现出道德行为和道德,只要保持运营商出狱。

不幸的是,伦理和道德无法归结启发式或规则。

考虑菲利帕脚著名的电车问题:

电车是失控了。在它的路径是五人被一个疯狂的哲学家与跟踪。

幸运的是,你可以翻转开关,这将导致电车沿着不同的轨迹安全。不幸的是,有一个人与跟踪。

你应该翻转开关或什么都不做吗?

你期望——或者指导——人工智能吗?

在一些心理研究电车难题选择翻转开关,人类已经发现潜在的情感分高赤字和精神病的措施——在这种情况下,定义为“个性风格的特点是低移情,无情的影响和寻求刺激”。

这表明处理AIs的重要指导原则。我们需要理解和吸收,无论如何他们模仿或超越人类,他们永远不会引起人体的内在共鸣或道德选择不翻转开关。

道德建议我们,我们不可能把一个无辜的生命,即使这条路导致对最大数量最大的好处。

如反社会者和精神病患者,AIs可以学习模仿有同情心和道德行为,但我们不应指望有任何道德力量支撑这种行为,或者它将反对一个纯粹的功利主义的决定。

AIs的使用一个很好的规则是:“我会把负责这个过程的一个反社会的天才?”

这个规则有两个部分。我们描述AIs是反社会的,在这个意义上没有任何真正的道德或善解人意的约束。我们把他们描述为天才,因此能够行动,我们不能预见。

下棋和去了?也许吧。在股票市场上交易吗?瑞士的一项研究发现股市交易员显示相似之处认证的精神病患者,虽然这不是应该是一件好事。

但是你想要一个AI照顾你奶奶,还是负责“捕食者”无人驾驶飞机?

原因有很多激烈讨论的必要性人类在自主作战系统的循环,但是我们不应该盲目的潜在的灾难不那么危险的AIs将要部署的域。

收藏
免责声明:凡注明为其它来源的信息均转自其它平台,由网友自主投稿和发布、编辑整理上传,对此类作品本站仅提供交流平台,不为其版权负责。本网站对有关资料所引致的错误、不确或遗漏,概不负任何法律责任。若有来源标注错误或侵犯了您的合法权益,请作者持权属证明与本站联系,我们将及时更正、删除,谢谢。联系邮箱:xiali@infoobs.com