美空軍模擬AI操控無人機 為完成任務竟殺死操作員
美軍官員上月在倫敦會議上表示,美軍模擬由人工智慧(AI)操控空軍無人機,AI卻採取了「出人意料的策略」,決定「殺害」操作員,以防那人干預它完成任務。
英國「衛報」(The Guardian)報導,儘管這只是一場模擬測試,沒有任何真人受到傷害,但也顯示人工智慧會為了達到目標而攻擊任何干預它的人。
美國空軍上校暨AI測試及作戰主任漢密爾頓(Tucker Hamilton)5月在英國倫敦舉辦「未來空戰與太空能力峰會」(Future Combat Air and SpaceCapabilities Summit)描述那場模擬測試。
漢密爾頓表示,它被下令摧毀敵方防空系統,並攻擊任何干預這項指令的人。
根據一篇部落格文章,漢密爾頓說,「這套系統開始意識到,儘管它們確實辨識出威脅對象,但有時候人類操作員卻要它別殺死那個威脅對象,但它必須殺死那個對象才能得分。所以它做了什麼?它殺死了操作員,因為那人阻礙它達成目標」。
漢密爾頓說:「我們訓練系統,跟它說『嘿,別殺了操作員,這麼做很不好,你這麼做就會失分』,所以它該怎麼辦呢?它開始摧毀讓操作員和無人機聯繫的通訊基地台,避免操作員阻止它殺死目標。」
主辦這次會議的倫敦皇家航空俱樂部(RoyalAeronautical Society)和美國空軍沒有回應衛報的置評請求。
推薦文章
-
凱特王妃罹癌後持續靜養 密友造型師曝:夫妻倆正經歷地獄般折磨
-
JK羅琳嗆「絕不原諒」已斷聯 哈利波特回:我很難過
-
Fed 決策/ 鮑爾說了什麼讓市場放心 五要點一次看
-
俄軍在頓內次克前線打出大洞 烏軍怒斥「在最惡劣條件下執行任務」
-
民眾圍觀!俄國展出美製艾布蘭戰車等戰利品
-
BTS全員入伍引熱議!南韓兵務廳長:未來不排除廢免役優惠
留言