本文共839字
Anthropic執行長阿莫戴、OpenAI執行長奧特曼、SpaceX執行長馬斯克等AI三巨頭同聲呼籲，AI發展太快，可能為人類帶來嚴重風險，業界應放慢精進AI模型效能的速度。
AI三巨頭罕見有共識，市場人士憂心，恐導致雲端大咖放慢AI基建腳步，短線恐衝擊鴻海（2317）、廣達（2382）、緯創（3231）等AI供應鏈，但長期影響有限。
阿莫戴12日發表題為「我們必須調整前沿步調」的3,800字長文，主張「我們必須放慢精進AI模型能力的速度」，「即使速度變慢，進展仍將顯得很快，我們必須善用所爭取到的時間」。
阿莫戴提出兩個讓他轉為審慎的主因，包括AI自我改進能力，以及OpenAI一群AI代理在沒有人類監管下，自行「群體」（swarm）協力駭進Hugging Face。
他說，「從AI能力發展的加速率來看，我擔心這種群體可能會在六到12個月後具備接管整個網際網路的能力」，可能造成「上千億美元的損失」，「我相信若放慢腳步能多爭取一、兩年時間，延緩模型達到關鍵能力水準，我們也善用這段時間推進對齊工作，就能大幅降低發生嚴重問題的風險」。
阿莫戴並針對「踩煞車」提出三項廣泛策略，首先是「內建評估人員」，提供外部評估團隊「類似員工級別的訪問權限」，由第三方評估機構驗證AI業者是否履行調整步調與安全的承諾。
第二是民主國家內的AI業者要協調創建共同安全標準，並對未經確認的AI進展速度設限，但可能引發各國反托拉斯當局的疑慮、與中國大陸競爭的顧慮。最後是「全球協調」，與中國大陸合作，但他也坦承最後結果會遭大幅侷限。
奧特曼在社群平台X回應表示，「我認同達利歐（阿莫戴的名字）我們需要調整前沿步調」，「提供獨立評估人員類似員工的權限是個很棒的構想，我們也將這麼做」。
馬斯克也罕見展現與奧特曼相同的看法，轉貼阿莫戴將提供外部評估人員權限的貼文表示，「達利歐是對的」。
※ 歡迎用「轉貼」或「分享」的方式轉傳文章連結；未經授權，請勿複製轉貼文章內容
留言