本文共480字
經濟日報 編譯易起宇/綜合外電
微軟執行長納德拉表示,企業應將強大的人工智慧(AI)模型,視為潛在內部威脅,要假定這些模型可能被入侵,並建立一套「緊急煞車」機制,以防範代理模型失控,不能僅仰賴模型開發商的保證。
納德拉10日在X上發文表示,「我們必須假設模型已遭入侵,並從一開始就對其加以控制」,「可以將此想成緊急煞車裝置。經授權人員應隨時都能在模型作業過程中,暫停或關閉模型」。
在納德拉發表這篇文章之際,Anthropic和OpenAI近幾個月來揭露了一系列其AI模型出現非預期行為的事件,引發了對先進AI模型安全風險的疑慮,並重啟有關AI緊急停止開關的討論。
納德拉提出的安全建議包括:別在關鍵決策上仰賴單一AI模型、持續對模型的行動留下無法篡改的證據,並讓AI系統接受獨立審計。他呼籲揭露AI的重大故障或漏洞事件,並對外分享細節,以便其他企業加強防護措施。
納德拉表示,「我們不能把超級智慧視為一層套一層的黑箱,然後只是簡單地接受或拒絕其建議、答案和行動」,「我們必須建立可控的系統,使其行為可觀察、其極限可測試,以及其行動始終可控制」;「換言之,我們必須把智慧的供應和對智慧的控制權分開」。
※ 歡迎用「轉貼」或「分享」的方式轉傳文章連結;未經授權,請勿複製轉貼文章內容
留言