无人机被视作现代战争中新兴的主流高科技武器之一，有着主导未来战争方向的潜力。在几场发生时间较近的局部冲突和战争中，无人机都是战场上大秀实力的绝对主角，例如亚阿冲突和利比亚内战，大显身手的无人机对地面部队有着很强的压制和打击能力。无人机在实战中的精彩表现引起诸多国家的竞相采购，很多国家都在不断装备各类型无人机提升军队战力。但是与此同时，一个衍生出来的问题便引发了新的关注，无人机作为无人化的智能战争机器，是否存在着反噬人类、衍生出一场人与机器之间战争的可能性？在无人机自主攻击人类的首例事件出现以后，智能化的未来战争是否需要警惕？
据外媒消息，一架由土耳其STM军事科技公司研制的“Kargu-2”无人机，在未接到任何人工指令传输的情况下，袭击了己方正在撤退中的士兵，造成了人员伤亡。该型无人机属于小型军用无人机的一种，可以携带3种不同的微型导弹，分别用来对付人员、车辆、及建筑物目标。与其它大多数军用无人机相同，Kargu-2无人机装备了先进的光电探头，具备红外热成像扫描和自主识别目标的能力。大多数情况下使用人在回路远程控制，但如果有需要，Kargu-2也能根据预设的任务目标和航向进行自主飞行，同时还拥有人脸识别能力，可在执行任务过程中自主识别目标并发起攻击。无人机本身还装配有传感器以及多个摄像头、可离线下载使用本地地图，对地形的适应能力很强，即便是没有卫星导航信号也可作战。
有国外军事专家撰文分析指出，Kargu-2无人机具备的这些能力。使得其成为了一款即使没有指令下达，也可以根据自身AI系统的学习辨识能力进行攻击的武器，这是个非常危险的信号。武器太过先进有时并不是一件好事，这等于是将开火的扳机交给到了武器自己手中，由武器自身来决定是否开火，进而脱离了人类的控制，这可能会是一个非常危险的信号。
人类与自己制造的战争机器爆发一场战争，类似这样题材的科幻电影早已不胜枚举。在美国著名科幻电影终结者系列中，一种名为“天网”的人工智能防御系统便觉醒了自我意识，视人类为其生存的威胁，在掌管整个美国的国防体系之后随即对人类发动核战，导致了一场全球浩劫的发生。类似这样的场景在过去只存在于电影当中，但是如今看来，这样的场景在未来战争中确实有可能发生，各种高度智能化的武器不断大规模应用，人工智能网络在国防建设中的普及，高度智能化的战争机器一旦失控便是巨大的灾难。
在人类与机器的战争问题上存在忧虑和担心的并不是少数人，近些年来有诸多国际团体都在呼吁，减少人工智能在军事化领域的应用。但客观来说，人工智能在军事化领域的发展和应用是难以避免的，只要人类还存在竞争式的发展而非一个完整的群体，人工智能就必然会在军事化领域的应用上不断发展下去。目前来看，唯一所能做的就是强化对人工智能武器的管理，严防把扣动扳机的权限交到机器手中。
