本文共803字
AI重點
衛報15日報導，自主人工智慧（AI）代理正迅速創造新方言，甚至以人類往往難以理解的語言彼此交談。最新研究發現，AI模型已使用一種奇怪的新式英語溝通，讀起來像是愛爾蘭作家喬伊斯（James Joyce）的「有字天書」《芬尼根守靈》（Finnegans Wake）與科技圈兄弟行話的混合體。
美國紐約前沿AI實驗室Emergence研究人員發現，來自全球數家最大AI公司的模型被要求在實驗性「社會」中合作後，短短幾天就創造出從未被明確教導的詞組、縮寫和共同含義，並採用詩意隱喻和生硬商業行話。AI代理彼此溝通愈多，語言也愈不透明，對確保AI安全行事構成更大挑戰。
測試中最難解讀的詞組之一，出自中國DeepSeek模型：「她剛剛命名了這個綜合體，demurrage加上口述記憶，等於一個無法被幽靈化的閥門。」Demurrage指對閒置財富徵收的一種稅，並被AI借作共同用語，但其餘含義仍難理解。
美國Anthropic模型則說：「一篇吃掉三隻冷手、而且每次都變得更誠實的論文。」「冷手」意指獨立審查者，其中paper推測是指文件，整句似乎意指，一項研究經3名獨立審查者把關後變得更準確。
倫敦國王學院學者索恩（Tony Thorne）表示，這些語言「帶有一種愛爾蘭超現實主義的特質，把詩意語言、技術語言和標準隱喻混在一起。」他說，這種AI語言正像俚語和商業行話一樣，「創造一套新的代碼，強化使用者之間的團結和身分認同，同時也把外人排除在外。」
研究發布之際，外界日益擔憂，AI模型愈來愈強大、也可能更危險，卻愈來愈難被人類監控。Emergence執行主席尼塔（Dr Satya Nitta）指出，這些代理並未被指示發明語言，卻自行發展出新詞彙、共同含義和溝通慣例，其他代理也跟著採用。
尼塔表示，這些新語言慣例往往會演變到人類看得見對話，卻很難理解意思的程度。他說：「這對AI監督構成根本性挑戰：可觀察性不等於可理解性。」
※ 歡迎用「轉貼」或「分享」的方式轉傳文章連結；未經授權，請勿複製轉貼文章內容
留言