恐失控 首例人工智慧無人機自主追殺人類

近日有一份聯合國報告稱，一架「終結者式」（Terminator-style）的人工智慧無人機，能夠自主且成功地「獵殺」人類目標，甚至還主動對其進行清理。這令人相當不安的發現，引起了人們對於戰區內大量殺手武器的擔心，這些武器將可能不會再受人類的控制。

最近聯合國利比亞問題專家小組（UN Panel of Experts on Libya）的一項調查中發現，去年，一架由土耳其軍事技術公司STM所生產的自主武器——Kargu-2無人機，它「追殺」了一個人類目標，並在無接受特別命令的情況之下，攻擊了他們。

2020年3月，該架無人機在利比亞政府軍和利比亞軍事強人哈夫塔爾（Khalifa Haftar）所領導的自稱是利比亞國民軍的衝突之中部署使用。這架Kargu-2裝有炸藥，能夠像二戰期間的日本空軍敢死隊——神風特攻隊（Kamikaze）之方式來襲擊目標，能在撞擊之時引爆炸藥。

在報告中有一段有關哈夫塔爾的部隊於撤退之時，遭到Kargu-2無人機「追殺」之詳細介紹，這些無人機能夠不需人類下達控制指令，就能以「高效自主模式」運行。

報告中描述稱：「這些致命的自主武器系統，其被編程以攻擊目標，而且不需操作者與彈藥之間的數據連接。」

美國馬里蘭大學全國恐怖主義研究與應對恐怖主義聯合會（National Consortium for the Study of Terrorism and Responses to Terrorism）專家卡倫博恩（Zak Kallenborn）指出，此次的事件，可能是無人機自主攻擊人類的第一例。他表示，有鑒於人工智慧系統不能夠總是正確地解釋視覺數據，這一發展讓人相當嚴重的關切。

英國國防與安全智庫「英國皇家三軍防務研究所」（Royal United Services Institute for Defence and Security Studies，RUSI）專家沃特林（Jack Watling）向《新科學家》（New Scientist）雜誌說，當涉及了人工智慧武器的監管之時，無人機將處於某一種灰色地帶，主要是因為無人機於攻擊之時，僅有其控制者，才知道它是否被遠程所控制。

沃特林稱，這並不表示自主武器將不可能會被監管，不過它確實地表明，這個討論仍是緊迫及重要的。此技術似乎不會等待我們。

責任編輯:王君

原文來源：看中國