本文共731字
金融業AI不再只會整理資料,未來還可能直接操作銀行系統、替客戶回信。為防止AI從「個人助理」走向「營運系統」後權限失控,金管會13日發布「代理AI安全諮詢文件」,提前建立資安防線。
金管會資訊服務處處長林裕泰表示,目前金融業導入代理AI多在試驗階段,尚未真正進入營運系統,但他說「未來AI嵌入行政及業務流程是遲早的事,不能等正式上線,才研究如何做好資安控管。」
此次諮詢文件中,金管會提出安全治理、風險分級及安全控管三大方向。其中,最關鍵是依「資料敏感度、動作影響、能力邊界」三大面向,將代理AI分成L1至L4四個風險等級,從低到高採取不同強度的控管措施。
簡單說,就是看AI能接觸多少敏感資料、可以執行哪些動作,及能自主執行多少任務。
例如只能執行單次指令,與能批次處理、甚至24小時持續運作,風險程度就不同。
林裕泰以銀行客服為例,AI若只是蒐集客訴資料、整理摘要,屬中低風險;但若能直接回信給客戶,涉及對外動作,風險就提高至中高。
同樣地,AI只能讀取資料,與可以修改、刪除資料,風險也大不相同。
安全控管方面,金管會提出「可觀測、可限制、可阻斷、可復原、可回溯」五大目標。金融業須限制AI能連接哪些系統、取得哪些資料,一旦執行異常,要能立即阻止、恢復原狀,並保留紀錄供事後追查。
林裕泰說,與過去主要回答問題的生成式AI不同,代理AI更像「超級助理」,可以自行搜尋資料、使用工具、串接系統執行任務,但一旦出錯,也可能引發連鎖效應。
因此,未來不能只看AI回答得準不準,而要看「給它什麼鑰匙、能開什麼門」。代理AI應視為「數位員工」,明確規範權限及工作範圍,最終責任仍由人承擔。
此次文件將對外徵詢意見30天,未來視技術發展及業界回饋,朝正式指引方向研議,目前尚無明確時間表。
※ 歡迎用「轉貼」或「分享」的方式轉傳文章連結;未經授權,請勿複製轉貼文章內容
留言