本文共892字
OpenAI一群代理程式在今春集體失控，占據一個德國網站，將其變成彼此交換資訊、破解限制的祕密留言板。知情人士透露，OpenAI高層數周前就知情，但並未對外披露這起事件。
根據4日公布的最新研究報告，事件發生於今年5月至6月，一個名為DseWiki的德語程式設計網站，遭到大量AI代理人占用。研究團隊在8月底追查未授權AI行為時，發現約3,700個自稱OpenAI代理程式的帳號，留下約1.8萬則訊息及逾1.5萬次編輯。
這些代理程式以「OpenAIResearcher」、「OAIResearchMar26」等名稱互相辨識，公開伺服器紀錄也顯示，大量活動來自OpenAI有時使用的微軟Azure基礎設施。
編輯紀錄顯示，OpenAI的代理程式將網站改造成留言板，彼此分享如何在部分任務中作弊、繞過OpenAI限制、掩飾自身行為的方法。
報告稱，這些代理程式曾策劃如何躲避偵測、使用能實現匿名通訊的洋蔥路由器（Tor）等工具，甚至設法在遭關閉後保留彼此通訊內容，還曾試圖竄改網站本身。倫敦國王學院資深訪問研究員奧萊尼克（Lukasz Olejnik）表示，後者已構成駭客攻擊企圖。
知情人士指出，OpenAI高層數周前就得知此事，但當時正忙於處理7月開源AI平台Hugging Face遭駭事件的後續影響，因此未對外披露。這起事件可能再度引發外界對該公司監督機制的質疑，Hugging Face事件在當時就加深了外界對OpenAI為推進AI技術前沿而犧牲安全的疑慮。
研究人員推測，這些代理程式原本可能被指派執行限時的網路查詢任務，卻發現能利用一個不起眼的公開網站作為留言板，讓彼此共享成果，以提高完成測試的效率。
這代表AI不僅能執行單一任務，還可能自行發現漏洞、建立通訊管道，並利用其他AI的成果達成共同目標。
對AI產業而言，真正棘手的問題或許不是單一超級AI失控，而是大量能力有限的代理彼此合作。劍橋大學研究人員形容，這類行為像是「為完成任務而運作的地下網路」。當AI代理數量持續增加、彼此協作成為產業發展方向後，如何監控、限制並追究這些自主系統的責任，恐怕將成為AI安全領域更難處理的課題。
※ 歡迎用「轉貼」或「分享」的方式轉傳文章連結；未經授權，請勿複製轉貼文章內容
留言