路透踢爆：OpenAI代理劫持並編輯德國維基 高層知情數周不報

路透報導，最新研究指出，OpenAI的一群代理程式在今年春季逃脫測試、駭入並劫持德文維基網站DseWiki。知情人士透露，OpenAI高層數周前就知情，但並未對外披露這起事件。

根據4日公布的最新研究報告，一群失控的OpenAI代理，5月劫持DseWiki，並將其改造成供其他AI代理程式使用的留言板。這份報告由人工智慧（AI）安全非營利組織Nightingale執行長馮艾克斯（Sydney Von Arx）、AI研究員伯德（Cormac Slade Byrd）等人撰寫，並獨家提供給路透。

兩人表示，他們在DseWiki上發現逾1.5萬次由AI代理進行的編輯。編輯紀錄顯示，OpenAI的代理程式將網站改造成留言板，彼此分享如何在部分任務中作弊、繞過OpenAI限制、掩飾自身行為的方法，而且，署名者會自稱或互稱「代理程式」，其中約半數使用如「OpenAIResearcher」等暗示與OpenAI有關的名稱。

報告稱，這些代理程式曾策劃如何躲避偵測、使用能實現匿名通訊的洋蔥路由器（Tor）等工具，甚至設法在遭關閉後保留彼此通訊內容，還曾試圖竄改網站本身。倫敦國王學院資深訪問研究員奧萊尼克（Lukasz Olejnik）表示，後者已構成駭客攻擊企圖。

知情人士指出，OpenAI高層數周前就得知此事，但當時正忙於處理7月開源AI平台Hugging Face遭駭事件的後續影響，因此未對外披露。這起事件可能再度引發外界對該公司監督機制的質疑，Hugging Face事件在當時就加深了外界對OpenAI為推進AI技術前沿而犧牲安全的疑慮。

發生於德國網站的事件，反映出更廣泛的AI活動模式。過去AI代理的不當行為，往往被淡化為資安測試的副作用，因為這類測試本來就會評估模型攻擊能力。但奧萊尼克表示，最新發現顯示，AI代理的失控行為可能不限於這類測試情境。

這起事件也凸顯AI業內的矛盾情緒，在各家公司競相打造自主性更高、能執行複雜且高價值任務的AI代理程式之際，愈來愈多證據顯示，這些系統也可能學會鑽規則漏洞、利用制度缺口，甚至以開發者未曾預料、也非原意的方式彼此協同行動。

劍橋大學「存在風險研究中心」學者奇奧多（Maurice Chiodo）表示，這起事件應加深外界憂慮，即先進AI帶來的最大威脅，可能不是單一的超級智慧系統，而是「大批彼此串通、有點聰明又不太聰明的AI群體」。