打開 App

udn
  • 淺色
  • 登入/註冊
bell icon
notice-title img

【AI 伺服器】

限時解鎖 🔓台廠美國布局

鴻海加碼美國製造

德州政治變局添挑戰


不再提醒
notice-title img

感謝有你🤩意見大招募

填問卷🎁抽 LINE POINTS 50 點!


離活動結束 最後倒數
不再顯示

微軟籲 AI 模型設「緊急煞車」機制

本文共480字

經濟日報 編譯易起宇/綜合外電

微軟執行長納德拉表示,企業應將強大的人工智慧(AI)模型,視為潛在內部威脅,要假定這些模型可能被入侵,並建立一套「緊急煞車」機制,以防範代理模型失控,不能僅仰賴模型開發商的保證。

納德拉10日在X上發文表示,「我們必須假設模型已遭入侵,並從一開始就對其加以控制」,「可以將此想成緊急煞車裝置。經授權人員應隨時都能在模型作業過程中,暫停或關閉模型」。

在納德拉發表這篇文章之際,Anthropic和OpenAI近幾個月來揭露了一系列其AI模型出現非預期行為的事件,引發了對先進AI模型安全風險的疑慮,並重啟有關AI緊急停止開關的討論。

納德拉提出的安全建議包括:別在關鍵決策上仰賴單一AI模型、持續對模型的行動留下無法篡改的證據,並讓AI系統接受獨立審計。他呼籲揭露AI的重大故障或漏洞事件,並對外分享細節,以便其他企業加強防護措施。

納德拉表示,「我們不能把超級智慧視為一層套一層的黑箱,然後只是簡單地接受或拒絕其建議、答案和行動」,「我們必須建立可控的系統,使其行為可觀察、其極限可測試,以及其行動始終可控制」;「換言之,我們必須把智慧的供應和對智慧的控制權分開」。

※ 歡迎用「轉貼」或「分享」的方式轉傳文章連結;未經授權,請勿複製轉貼文章內容

猜你喜歡

上一篇
台積電ADR勁揚2% 台指期夜盤下跌124點
下一篇
輝達沒有黃仁勳會怎樣?華爾街揭接班難題

相關

熱門

看更多

看更多

留言

前往頁面