恐失控 首例人工智能無人機自主追殺人類

0
47
無人機示意圖 (圖片來源:pixabay)
近日有一份聯合國報告稱,一架「終結者式」(Terminator-style)的人工智能無人機,能夠自主且成功地「獵殺」人類目標,甚至還主動對其進行清理。這令人相當不安的發現,引起了人們對於戰區內大量殺手武器的擔心,這些武器將可能不會再受人類的控制。
最近聯合國利比亞問題專家小組(UN Panel of Experts on Libya)的一項調查中發現,去年,一架由土耳其軍事技術公司STM所生產的自主武器——Kargu-2無人機,它「追殺」了一個人類目標,並在無接受特別命令的情況之下,攻擊了他們。
2020年3月,該架無人機在利比亞政府軍和利比亞軍事強人哈夫塔爾(Khalifa Haftar)所領導的自稱是利比亞國民軍的衝突之中部署使用。這架Kargu-2裝有炸藥,能夠像二戰期間的日本空軍敢死隊——神風特攻隊(Kamikaze)之方式來襲擊目標,能在撞擊之時引爆炸藥。
在報告中有一段有關哈夫塔爾的部隊於撤退之時,遭到Kargu-2無人機「追殺」之詳細介紹,這些無人機能夠不需人類下達控制指令,就能以「高效自主模式」運行。
報告中描述稱:「這些致命的自主武器系統,其被編程以攻擊目標,而且不需操作者與彈藥之間的數據連接。」
美國馬里蘭大學全國恐怖主義研究與應對恐怖主義聯合會(National Consortium for the Study of Terrorism and Responses to Terrorism)專家卡倫博恩(Zak Kallenborn)指出,此次的事件,可能是無人機自主攻擊人類的第一例。他表示,有鑒於人工智能系統不能夠總是正確地解釋視覺數據,這一發展讓人相當嚴重的關切。
英國國防與安全智庫「英國皇家三軍防務研究所」(Royal United Services Institute for Defence and Security Studies,RUSI)專家沃特林(Jack Watling)向《新科學家》(New Scientist)雜誌說,當涉及了人工智能武器的監管之時,無人機將處於某一種灰色地帶,主要是因為無人機於攻擊之時,僅有其控制者,才知道它是否被遠程所控制。
沃特林稱,這並不表示自主武器將不可能會被監管,不過它確實地表明,這個討論仍是緊迫及重要的。此技術似乎不會等待我們。
責任編輯:王君
原文來源:看中國