經濟日報 App
  • 會員中心
  • 訂閱管理
  • 常見問題
  • 登出
notice-title img

經濟日報邀請你,選出最感興趣的財經大事,免費領取VIP文章,再抽千元好禮喔!



不再通知

金融業迎戰AI 2/金融業運用AI指引將上路 管太嚴沒彈性? 業者最擔心3件事

金管會去年底提出金融業運用AI指引草案,在彙集外界意見後,預計第2季發布上路。圖為金管會主委黃天牧。 報系資料照
金管會去年底提出金融業運用AI指引草案,在彙集外界意見後,預計第2季發布上路。圖為金管會主委黃天牧。 報系資料照

本文共2516字

經濟日報 記者邱金蘭/台北報導

經濟VIP文章限時開放

金管會訂定的金融業運用人工智慧(AI)指引即將上路,多數金融業者認為指引讓未來AI技術的應用,尤其是運用生成式AI更有依循方向,但業者心中也有疑慮,希望指引的訂定能更有彈性,業者也向金管會反映最擔心的三件事。

金融業迎戰AI之1/金融業重金培養AI部隊 成功建商模還是吃罰單 4大挑戰很現實

金融業迎戰AI之3/AI股過熱了嗎?耶魯大學名師的這條公式算給你看

金管會去年底提出金融業運用AI指引草案,並進行兩個月的預告,聽取外界意見,金管會官員表示,這段期間包括金融機構、科技公司及民眾,都提出許多建議,金管會內部正彙整並討論各界意見,預計第2季發布上路。

ChatGPT帶起AI熱潮,專家認為,AI技術發展很快,金融業過去可能重心擺在「...
ChatGPT帶起AI熱潮,專家認為,AI技術發展很快,金融業過去可能重心擺在「進攻端」,指引出來後,現在可能得先回防。 路透

官方指引適用全AI 業者憂金檢列缺失

KPMG安侯建業數位長賴偉晏表示,指引草案最大的「貓膩」是,適用的範圍是廣泛的AI,而不只是生成式AI,指引雖只有六個章節,但涵蓋面廣,這對金融機構來說,等於必須全面檢視目前AI的運用,是否符合指引規定。

他說,AI技術發展很快,金融業過去可能重心擺在「進攻端」,指引出來後,「現在可能得先回防,整理好後花園,再讓家重新開放,但不會停滯不發展」。

根據金管會去年5月的調查,目前各金融業運用AI比率最高的是銀行,有高達六成三已使用AI系統,其次是保險業的58%,證券期貨業則是17%。

許多運用AI技術的金融機構,這段時間已全面檢視上線的AI系統,尤其是風險高、影響較大的將優先檢視。

賴偉晏說,檢視結果若發現有不符指引內容時,是否立刻下架,將讓業者陷入兩難,雖然指引不是法令規定,但必要時金管會還是會檢查,如果不下架,到時候會不會被列金檢缺失?這是指引草案出來後,金融業最擔憂的第一件事。

金管會去年底提出指引草案時雖強調,指引是行政指導性質,目的在於鼓勵金融業在風險可控的情況下,導入、使用及管理AI。

不過,金管會更早公布的「金融業運用AI之核心原則及政策」中,也明確指出,對於AI系統的應用,必要時會進行專案金融檢查,確保金融機構運用AI系統時,能確實遵守法規及落實風險管理,並有助於提升公眾信任及社會福祉。

知情官員表示,金檢會不會列缺失,的確是在與業界溝通過程中,業者的顧慮之一。一位銀行數位部主管說,傳統AI運用已行之多年,比較不怕,比較擔心的是,生成式AI的運用會否踩紅線,大家只能且看且走。

金管會檢查局官員說明,AI指引正式上路後,檢查局去金融機構檢查時,就會針對受檢機構的AI運用進行了解,但「初期不會寫金檢缺失」。

官員強調,檢查初期,將採取輔導立場,與金融業者充分溝通,以了解業者運用AI的風險,並「給予建議」;但不會那麼快提缺失,大概等到業務發展成熟一點,法規環境比較完備時再評估提缺失。

外界也不免好奇,檢查局有能力檢查AI技術的運用嗎?檢查局官員說,為了因應未來AI檢查需要,檢查局已對檢查人員加強AI教育訓練,包括外聘講師到檢查局授課、派員參加外部專業訓練,及組織自我學習(金檢人員的自修及討論)等。

AI演算法惹毛客人 客訴挑戰不小

第二個讓金融業者有顧慮的是,外界可以「挑戰」AI系統作出的結論。

根據金管會訂定的金融業運用AI六項核心原則中的「原則五落實透明性與可解釋性」規定,對於受到AI系統不利影響的人,能夠基於簡單易懂的因素訊息,以及作為預測、建議或決策基礎的邏輯,來「挑戰」其結果。

舉例來說,假設銀行AI系統的信用評分結果,張三因此無法拿到貸款,張三可以來挑戰銀行的AI系統如何評估、參數設定是否正確等。

金融業者表示,雖然這項規定的原意是讓AI系統運用,要有透明性及可解釋性,但「挑戰」的字眼對業者來說就有點壓力,尤其擔心會不會因此引來客訴,已有業者向金管會建議看能否調整,讓客戶「理解」就好,不一定要來「挑戰」。

憂指引沒彈性 業者得巨資維護風險

金融業擔心的第三件事是,指引規定太沒彈性,將加重成本。

指引草案規定,金融機構運用AI系統時,應就相關風險進行評估,並宜多分配資源於高風險的AI系統。風險評估需考量的因素包括:是否面對客戶、使用個資程度、AI自主決策程度、AI系統複雜性、影響不同利關人、是否提供救濟選項。

金融業者表示,風險愈高,金融機構要投入的時間愈多、稽核次數也愈高,這些都是成本,有業者向金管會反映,對於高風險的認定不要寫太細,希望能有一定彈性。

以AI系統複雜性為例,有些系統複雜不等於就是高風險,反而因系統建制完整,風險相對低;而簡單系統容易出錯,風險相對高,兩者間不一定是等號,應由業者自己評估。

此外,指引草案規定,金融業可指定足以督導跨部門業務的高階主管或「成立委員會」,負責整體監督管理AI系統的運用。也有業者擔心,新增組織增加成本,希望也可以將AI系統「納入」現有委員會進行監督管理,不一定要成立新的委員會。

還有,指引草案規定,金融機構可將AI系統的產出結果,提交給獨立且適格的外部專業人員,進行審查和驗證,以確保AI系統的決策符合合理性、準確性及避免偏見,並作出必要的修正或改善。

金融業者反映,在國內對AI領域有能力做外部驗證的機構還不足夠的情況下,指引能否調整有彈性一點,除外部驗證外,也可由內部驗證來判斷AI系統是否可信任。

即將上路的指引草案,雖有部分讓金融業擔心的地方,但也提供一個運用AI的明確框架。大型銀行數位部主管就說,我們AI團隊正評估運用生成式AI,而且打算找第三方機構合作,指引草案有提到第三方合作規範,這讓我們更有信心做生成式AI的初期接觸,「指引還是必要的」。

「AI發展相當快述,關鍵技術不斷突破,未來會讓它停下來的只有法律。」賴偉晏說,歐盟在去年底正式通過人工智慧規範法案(AI Act),將成為全球首部AI立法,歐盟這項法案就是一個踩剎車機制。

金融業受高度監管,剎車機制更顯重要,而站在業者立場,當然都希望循序漸進,不要綁手綁腳,賴偉晏說,目前國內訂定的AI指引草案,是鼓勵性質,也就是還有「容錯空間」,但如果AI出狀況,像是種族歧視等,勢將嚴重衝擊金融機構的商譽,金融業還是不能不慎。

延伸閱讀 》

金融業迎戰AI之1/金融業重金培養AI部隊 成功建商模還是吃罰單 4大挑戰很現實

金融業迎戰AI之3/AI股過熱了嗎?耶魯大學名師的這條公式算給你看

※ 歡迎用「轉貼」或「分享」的方式轉傳文章連結;未經授權,請勿複製轉貼文章內容

延伸閱讀

上一篇
雙貸族火力全開1/房貸+信貸 全台雙貸族首度突破36萬人 每人平均背債670萬創新高
下一篇
老了住哪裡6/特別篇:「暖時光」打造原居安老 服務直送到社區可能嗎?

相關

熱門

看更多

看更多

留言

完成

成功收藏,前往會員中心查看!