本文共472字
經濟日報 國際中心／綜合外電
Anthropic一名研究員決定退出AI產業，因擔心Anthropic及其競爭對手正競相開發他們無法掌控的系統。這或許代表頂尖AI公司內部對安全的疑慮日益升高。
以透過大量資料訓練新AI模型見長的研究員考克森（Jacob Coxon）8日表示，整個產業都在加快腳步，開發自我改進型的AI系統，但他擔心這類系統可能會失控，甚至導致人類滅亡，因此不想參與其中，選擇離職。
考克森並非特例，近年來有多位研究人員因為類似憂慮而離開OpenAI等AI公司。
他表示，業界許多同儕現在會用「緊要關頭」及「終局」等字眼，來形容產業朝自我改進模型發展的軌跡，「我們正邁向最激進的情境，明年底前局勢可能就失控了。」他另指出，當公司之間互相較勁以及面對中國新創競爭時，在安全性上做取捨是不可避免的。
其實考克森今年稍早才自OpenAI離職，加入以模型安全著稱的Anthropic。儘管他認為Anthropic的安全措施仍相當用心，但他現在相信，若缺乏政府介入或業界協調減緩腳步，沒有一家公司能負責任地開發在多項任務上勝過人類的AI，也就是所謂的「通用人工智慧」（AGI）。
※ 歡迎用「轉貼」或「分享」的方式轉傳文章連結；未經授權，請勿複製轉貼文章內容
留言