本文共2516字
經濟VIP文章限時開放
金管會訂定的金融業運用人工智慧（AI）指引即將上路，多數金融業者認為指引讓未來AI技術的應用，尤其是運用生成式AI更有依循方向，但業者心中也有疑慮，希望指引的訂定能更有彈性，業者也向金管會反映最擔心的三件事。
金融業迎戰AI之1／金融業重金培養AI部隊 成功建商模還是吃罰單 4大挑戰很現實
金管會去年底提出金融業運用AI指引草案，並進行兩個月的預告，聽取外界意見，金管會官員表示，這段期間包括金融機構、科技公司及民眾，都提出許多建議，金管會內部正彙整並討論各界意見，預計第2季發布上路。
官方指引適用全AI 業者憂金檢列缺失
KPMG安侯建業數位長賴偉晏表示，指引草案最大的「貓膩」是，適用的範圍是廣泛的AI，而不只是生成式AI，指引雖只有六個章節，但涵蓋面廣，這對金融機構來說，等於必須全面檢視目前AI的運用，是否符合指引規定。
他說，AI技術發展很快，金融業過去可能重心擺在「進攻端」，指引出來後，「現在可能得先回防，整理好後花園，再讓家重新開放，但不會停滯不發展」。
根據金管會去年5月的調查，目前各金融業運用AI比率最高的是銀行，有高達六成三已使用AI系統，其次是保險業的58%，證券期貨業則是17%。
許多運用AI技術的金融機構，這段時間已全面檢視上線的AI系統，尤其是風險高、影響較大的將優先檢視。
賴偉晏說，檢視結果若發現有不符指引內容時，是否立刻下架，將讓業者陷入兩難，雖然指引不是法令規定，但必要時金管會還是會檢查，如果不下架，到時候會不會被列金檢缺失？這是指引草案出來後，金融業最擔憂的第一件事。
金管會去年底提出指引草案時雖強調，指引是行政指導性質，目的在於鼓勵金融業在風險可控的情況下，導入、使用及管理AI。
不過，金管會更早公布的「金融業運用AI之核心原則及政策」中，也明確指出，對於AI系統的應用，必要時會進行專案金融檢查，確保金融機構運用AI系統時，能確實遵守法規及落實風險管理，並有助於提升公眾信任及社會福祉。
知情官員表示，金檢會不會列缺失，的確是在與業界溝通過程中，業者的顧慮之一。一位銀行數位部主管說，傳統AI運用已行之多年，比較不怕，比較擔心的是，生成式AI的運用會否踩紅線，大家只能且看且走。
金管會檢查局官員說明，AI指引正式上路後，檢查局去金融機構檢查時，就會針對受檢機構的AI運用進行了解，但「初期不會寫金檢缺失」。
官員強調，檢查初期，將採取輔導立場，與金融業者充分溝通，以了解業者運用AI的風險，並「給予建議」；但不會那麼快提缺失，大概等到業務發展成熟一點，法規環境比較完備時再評估提缺失。
外界也不免好奇，檢查局有能力檢查AI技術的運用嗎？檢查局官員說，為了因應未來AI檢查需要，檢查局已對檢查人員加強AI教育訓練，包括外聘講師到檢查局授課、派員參加外部專業訓練，及組織自我學習（金檢人員的自修及討論）等。
AI演算法惹毛客人 客訴挑戰不小
第二個讓金融業者有顧慮的是，外界可以「挑戰」AI系統作出的結論。
根據金管會訂定的金融業運用AI六項核心原則中的「原則五落實透明性與可解釋性」規定，對於受到AI系統不利影響的人，能夠基於簡單易懂的因素訊息，以及作為預測、建議或決策基礎的邏輯，來「挑戰」其結果。
舉例來說，假設銀行AI系統的信用評分結果，張三因此無法拿到貸款，張三可以來挑戰銀行的AI系統如何評估、參數設定是否正確等。
金融業者表示，雖然這項規定的原意是讓AI系統運用，要有透明性及可解釋性，但「挑戰」的字眼對業者來說就有點壓力，尤其擔心會不會因此引來客訴，已有業者向金管會建議看能否調整，讓客戶「理解」就好，不一定要來「挑戰」。
憂指引沒彈性 業者得巨資維護風險
金融業擔心的第三件事是，指引規定太沒彈性，將加重成本。
指引草案規定，金融機構運用AI系統時，應就相關風險進行評估，並宜多分配資源於高風險的AI系統。風險評估需考量的因素包括：是否面對客戶、使用個資程度、AI自主決策程度、AI系統複雜性、影響不同利關人、是否提供救濟選項。
金融業者表示，風險愈高，金融機構要投入的時間愈多、稽核次數也愈高，這些都是成本，有業者向金管會反映，對於高風險的認定不要寫太細，希望能有一定彈性。
以AI系統複雜性為例，有些系統複雜不等於就是高風險，反而因系統建制完整，風險相對低；而簡單系統容易出錯，風險相對高，兩者間不一定是等號，應由業者自己評估。
此外，指引草案規定，金融業可指定足以督導跨部門業務的高階主管或「成立委員會」，負責整體監督管理AI系統的運用。也有業者擔心，新增組織增加成本，希望也可以將AI系統「納入」現有委員會進行監督管理，不一定要成立新的委員會。
還有，指引草案規定，金融機構可將AI系統的產出結果，提交給獨立且適格的外部專業人員，進行審查和驗證，以確保AI系統的決策符合合理性、準確性及避免偏見，並作出必要的修正或改善。
金融業者反映，在國內對AI領域有能力做外部驗證的機構還不足夠的情況下，指引能否調整有彈性一點，除外部驗證外，也可由內部驗證來判斷AI系統是否可信任。
即將上路的指引草案，雖有部分讓金融業擔心的地方，但也提供一個運用AI的明確框架。大型銀行數位部主管就說，我們AI團隊正評估運用生成式AI，而且打算找第三方機構合作，指引草案有提到第三方合作規範，這讓我們更有信心做生成式AI的初期接觸，「指引還是必要的」。
「AI發展相當快述，關鍵技術不斷突破，未來會讓它停下來的只有法律。」賴偉晏說，歐盟在去年底正式通過人工智慧規範法案（AI Act），將成為全球首部AI立法，歐盟這項法案就是一個踩剎車機制。
金融業受高度監管，剎車機制更顯重要，而站在業者立場，當然都希望循序漸進，不要綁手綁腳，賴偉晏說，目前國內訂定的AI指引草案，是鼓勵性質，也就是還有「容錯空間」，但如果AI出狀況，像是種族歧視等，勢將嚴重衝擊金融機構的商譽，金融業還是不能不慎。
延伸閱讀 》
※ 歡迎用「轉貼」或「分享」的方式轉傳文章連結；未經授權，請勿複製轉貼文章內容
留言