打開 App

udn
  • 淺色
  • 登入/註冊
bell icon

銀行 AI 會失控嗎?金管會畫紅線 四級風險控管曝光

金管會13日發布「代理AI安全諮詢文件」,提前建立資安防線。 路透
金管會13日發布「代理AI安全諮詢文件」,提前建立資安防線。 路透

本文共731字

經濟日報 記者廖珮君/台北即時報導

金融業AI不再只會整理資料,未來還可能直接操作銀行系統、替客戶回信。為防止AI從「個人助理」走向「營運系統」後權限失控,金管會13日發布「代理AI安全諮詢文件」,提前建立資安防線。

金管會資訊服務處處長林裕泰表示,目前金融業導入代理AI多在試驗階段,尚未真正進入營運系統,但他說「未來AI嵌入行政及業務流程是遲早的事,不能等正式上線,才研究如何做好資安控管。」

此次諮詢文件中,金管會提出安全治理、風險分級及安全控管三大方向。其中,最關鍵是依「資料敏感度、動作影響、能力邊界」三大面向,將代理AI分成L1至L4四個風險等級,從低到高採取不同強度的控管措施。

簡單說,就是看AI能接觸多少敏感資料、可以執行哪些動作,及能自主執行多少任務。

例如只能執行單次指令,與能批次處理、甚至24小時持續運作,風險程度就不同。

林裕泰以銀行客服為例,AI若只是蒐集客訴資料、整理摘要,屬中低風險;但若能直接回信給客戶,涉及對外動作,風險就提高至中高。

同樣地,AI只能讀取資料,與可以修改、刪除資料,風險也大不相同。

安全控管方面,金管會提出「可觀測、可限制、可阻斷、可復原、可回溯」五大目標。金融業須限制AI能連接哪些系統、取得哪些資料,一旦執行異常,要能立即阻止、恢復原狀,並保留紀錄供事後追查。

林裕泰說,與過去主要回答問題的生成式AI不同,代理AI更像「超級助理」,可以自行搜尋資料、使用工具、串接系統執行任務,但一旦出錯,也可能引發連鎖效應。

因此,未來不能只看AI回答得準不準,而要看「給它什麼鑰匙、能開什麼門」。代理AI應視為「數位員工」,明確規範權限及工作範圍,最終責任仍由人承擔。

此次文件將對外徵詢意見30天,未來視技術發展及業界回饋,朝正式指引方向研議,目前尚無明確時間表。

※ 歡迎用「轉貼」或「分享」的方式轉傳文章連結;未經授權,請勿複製轉貼文章內容

猜你喜歡

上一篇
大盤10月跌5.7% 誰是金控單月獲利王?國泰金、中信金強勢上攻
下一篇
台壽搶商機 擬投入5億美元參與 Anthropic IPO

相關

熱門

看更多

看更多

留言

前往頁面