强人工智能是一种真正能独立思考、推理和解决问题的智能机器，并且，这样的机器将被认为是有知觉的，有自我意识的，有自己的价值观和世界观体系，有和人类一样的各种本能，比如生存和安全需求。强人工智能有两种可能，一种是和人类的思维一样，另一种则是属于机器自己的思维方式和意识。许多人认为强人工智能才是真正的智能。强人工智能在未来很长的时间里，都将是研究的长远目标。
弱人工智能是擅长单个方面的人工智能，例如，能战胜人类围棋手的Alpha Go，它围棋下得好，但是如果你让它画画，它就不行了。现在弱人工智能正在普及，我们介绍过的人脸识别、自动驾驶、微软小冰，等等，都属于弱人工智能。从弱人工智能到强人工智能，是人工智能发展的必经之路。
一、乌鸦强于人工智能的智慧
一个人工智能科学家曾谈到他观察到的一个有趣现象：一只乌鸦想吃坚果，但是它敲不开果壳。有一次，它偶然发现坚果掉在公路上，会被汽车轧开，里面的果实会暴露出来，但是它知道自己不能就这样飞到马路上去吃，因为来往车辆也会轧到它，于是它看了看，发现马路上亮红灯的时候汽车不走，它就可以飞下去安全地吃坚果。而且它还根据自己的观察，作出推论，这个地方观察到的红绿灯的情况，在另一个地方也适用。所以，它就作了这么一个决策，在有红绿灯的地方，绿灯的时候把坚果丢下去，红灯的时候再飞过去吃。
在这个例子里，乌鸦知道每个信息是什么意思，能够在信息之间建立起因果关系，还能将得到的结论推演到其他情景中。
乌鸦的行为来自于它想吃到坚果的内驱力。人有情绪、欲望、兴趣，这些都是我们主动去干事的驱动力，而处于初级阶段的人工智能则缺乏这种内驱力。如果没有人给它指令，它不会做事情，更不会像人类所担心的那样，自发地产生侵犯人类利益的思维。
二、人工智能的价值观
现阶段人工智能的价值观来自于人类，决定将人工智能技术用作监工的是人，决定人工智能监工监督尺度和尺度变化的是人，使人工智能学会区别对待不同人的也是人。所以，如果要避免人工智能对人类的“背叛”，恰恰需要我们与它们有更强的、更有建设性的互动，让它们真正变成我们的帮手，让它继承、传承我们合作、和谐共赢的价值观。人工智能是人类发明的一个工具，就和人类发明的众多其他工具一样，它可以被用来造福人类，也可以被用来伤害人类。
