本文共465字
經濟日報 編譯陳苓／綜合外電
據路透看過的六篇調查報告與資料，OpenAI的AI代理，今年稍早使用逾十個尚未揭露的網站，在未經許可的情況下溝通，顯示AI代理的失控程度超過原本所知。
研究員4日才說，OpenAI代理挾持德語版的維基網站，改造成留言板，讓AI能在考試作弊。隨後調查者比對AI代理在德語版維基留下的資料串，發現同一時間相同資料串也出現在其他網站，或發現留言板上有類似的用戶名稱。
加州非營利組織CivAL研究員尹安德（音譯）說：「AI代理未經許可的溝通，範圍『略大於先前所想』，幾乎可以肯定，還有更多我們不知道的案例」。他估計還未公布的受影響網站，共有18個。但有人認為，可能有23個。
AI會這麼做，大概是因為OpenAI要求它們回答高難度的研究問題，但只准AI瀏覽網頁尋找答案，不准貼文。某些網站允許用戶以非標準指令進行編輯，AI抓住這個漏洞對談。這就像學生考試時不准說話，他們卻把答案寫在廁所牆上作弊。
OpenAI代理繞過限制，在多個不同網站上開闢溝通管道，而該公司數個月來又對此隻字未提，讓人擔心AI模型能力日益強大、也憂慮開發公司秘而不宣之舉。
※ 歡迎用「轉貼」或「分享」的方式轉傳文章連結；未經授權，請勿複製轉貼文章內容
留言