本文共705字
中央社 紐約12日綜合外電報導
在人工智慧（AI）遭濫用疑慮日增之際，Anthropic執行長阿莫戴呼籲，各家公司調整提升模型能力的速度。他提出一套三步驟架構，希望放慢發展腳步，爭取更多時間管理相關風險。
阿莫戴（Dario Amodei）在X平台發表的文章指出：「我們必須放慢提升AI模型能力的速度。即使速度變慢，進展仍將顯得很快，我們必須善用所爭取到的時間。」
路透社報導，這篇文章發表前，Anthropic才剛發布一份威脅情報報告，闡述有多方人士曾利用其ClaudeAI模型從事武器開發、網路戰、監控以及詐騙等行為。
本週對AI可能帶來傷害的憂慮加劇，Anthropic研究員考克森（Jacob Coxon）日前辭職，表示「打造AI的人真心認為，這項技術可能在10年內消滅全人類。」
阿莫戴進一步澄清，他並非主張停止模型訓練或中止技術進步，而是希望企業能有充分時間讓AI模型對齊（意指引導AI系統的行為與目標，使其符合人類的意圖、價值觀及安全規範），並加強防護，讓第三方審查人員驗證這些步驟是否確實執行。
阿莫戴提出的三步驟架構之一，包括在前沿AI公司內設立常駐的第三方審查人員，賦予其使用相關工具和參與內部風險評估流程的權限。
阿莫戴說，隨著越來越多美國國會議員呼籲制定規範AI系統的新法律，AI公司應自發合作，建立標準。
法新社指出，今年8月初，美國政府針對進階AI模型建立了自願性的發布前安全審查機制，但相關細節尚未明朗。
產業觀察人士表示，無法確定這項機制有多大成效，因為美國總統川普（Donald Trump）政府目前對包括科技業在內的多數產業，一貫採取較為鬆綁、輕度監管的政策。
※ 歡迎用「轉貼」或「分享」的方式轉傳文章連結；未經授權，請勿複製轉貼文章內容
留言