本文共581字
經濟日報 編譯劉忠勇／綜合外電
ChatGPT開發商OpenAI表示，將減緩最先進人工智慧（AI）模型研發，並加強管控。該公司上月測試資安能力時，一套自主AI代理系統繞過監控、連上網路，並入侵AI新創公司Hugging Face。
OpenAI 18日在部落格表示，將暫緩AI訓練計畫，同時將確認訓練出的模型行為是否符合預期，今後將強化模型隔離措施，防止測試中的模型連上網路，並以自動化系統監控所有高階模型測試。系統發現可疑行為後，目標是在30分鐘內發出警報；若無法在30分鐘內確認只是誤報，便會暫停測試。
執行長奧特曼表示，如果覺得模型能力發展超越安全管控範圍，行為與意圖無法保持一致，就採取行動。
OpenAI之前也曾暫停最新模型的訓練長達兩周，隨後才在更嚴格管控下恢復。OpenAI下一款重要模型「Astra」，相關研發大部分均已暫停，原因是公司月初判定，這款新模型可能跨越公司對於AI系統駭客能力所設的警戒門檻。
OpenAI先前多次承諾，將公布Hugging Face事件的詳細技術報告，但至今尚未發布；不過公司在部落格表示，報告將於「未來數周內」發表。
在此同時，華爾街日報報導，OpenAI向投資人表示，截至6月底的第2季營收高於第1季的57億美元。不過營業利益率進一步惡化，距離獲利更加遙遠。同期Anthropic營收增逾一倍至116億美元，首度超越OpenAI，並出現小幅營業獲利。
※ 歡迎用「轉貼」或「分享」的方式轉傳文章連結；未經授權，請勿複製轉貼文章內容
留言