恐失控 首例人工智能无人机自主追杀人类

近日有一份联合国报告称，一架“终结者式”（Terminator-style）的人工智能无人机，能够自主且成功地“猎杀”人类目标，甚至还主动对其进行清理。这令人相当不安的发现，引起了人们对于战区内大量杀手武器的担心，这些武器将可能不会再受人类的控制。

最近联合国利比亚问题专家小组（UN Panel of Experts on Libya）的一项调查中发现，去年，一架由土耳其军事技术公司STM所生产的自主武器——Kargu-2无人机，它“追杀”了一个人类目标，并在无接受特别命令的情况之下，攻击了他们。

2020年3月，该架无人机在利比亚政府军和利比亚军事强人哈夫塔尔（Khalifa Haftar）所领导的自称是利比亚国民军的冲突之中部署使用。这架Kargu-2装有炸药，能够像二战期间的日本空军敢死队——神风特攻队（Kamikaze）之方式来袭击目标，能在撞击之时引爆炸药。

在报告中有一段有关哈夫塔尔的部队于撤退之时，遭到Kargu-2无人机“追杀”之详细介绍，这些无人机能够不需人类下达控制指令，就能以“高效自主模式”运行。

报告中描述称：“这些致命的自主武器系统，其被编程以攻击目标，而且不需操作者与弹药之间的数据连接。”

美国马里兰大学全国恐怖主义研究与应对恐怖主义联合会（National Consortium for the Study of Terrorism and Responses to Terrorism）专家卡伦博恩（Zak Kallenborn）指出，此次的事件，可能是无人机自主攻击人类的第一例。他表示，有鉴于人工智能系统不能够总是正确地解释视觉数据，这一发展让人相当严重的关切。

英国国防与安全智库“英国皇家三军防务研究所”（Royal United Services Institute for Defence and Security Studies，RUSI）专家沃特林（Jack Watling）向《新科学家》（New Scientist）杂志说，当涉及了人工智能武器的监管之时，无人机将处于某一种灰色地带，主要是因为无人机于攻击之时，仅有其控制者，才知道它是否被远程所控制。

沃特林称，这并不表示自主武器将不可能会被监管，不过它确实地表明，这个讨论仍是紧迫及重要的。此技术似乎不会等待我们。

责任编辑:王君

原文来源：看中国