駭客濫用生成式 AI 助長社交工程攻擊 企業資安防禦恐更艱辛

勒索病毒進化、資料外洩問題、網路釣魚、商務電子郵件入侵(BEC)是現今企業正面臨的四大資安問題。隨著近年生成式AI技術發展快速，不僅企業開始或準備導入生成式AI技術以強化營運效率，生成式AI也成為駭客進行不法攻擊的幫手。企業除了須面對原本待解決的資安難題外，更陷入駭客社交工程攻擊手法更加快速演變及攻擊面不斷擴大的窘境。

全球網路資安領導廠商趨勢科技將於8月6、7、9日的Risk to Resilience「AI世代的資安風險管理」世界巡迴研討會中，說明新興資安威脅發展現況，以及企業IT及資安團隊如何在生成式AI席捲全球的狀態下善用平台化資安工具，發展客製化的風險管理策略以保持營運韌性。

生成式AI助長了駭客使用社交工程的效率，企業尤須留意網路釣魚及商務電子郵件入侵事件發生。透過生成式AI，駭客在傳送惡意郵件和訊息時沒有了語言翻譯問題，同時能避免文法和用字錯誤，文字內容比過往更加真實，甚至能「自動化」地搜集目標資訊來發動更個人化的網路捕鯨(Whaling)瞄準企業高層，而這些情況將難以再單純透過教育訓練的方式來減緩發生。

除此之外，安全認證工具技術也成為駭客的目標，如近幾年常見的多重認證轟炸(MFA bombing)/多重認證疲勞(MFA fatigue)，即是駭客發送多次驗證通知給裝置使用者誘使其點擊同意以通過驗證，企業應對此更加留意。

趨勢科技台灣區總經理洪偉淦表示：「我們觀察企業通常因受到法令規範、供應鏈要求或遭遇資安事件驅使而開始重視資安。而近年供應鏈資安問題嚴峻，根據趨勢科技威脅研究中心，2023年就有超過一半(52）的企業表示其供應鏈夥伴曾遭受勒索病毒攻擊，加上全球組織部署生成式AI和其他數位工具以獲得更大的競爭優勢的趨勢，企業除了原先的資安問題，還需煩惱生成式AI所帶來的存取權限控管、指令注入(prompt injection)、AI政策規範等新興挑戰。因此如何管理攻擊面、保有資安可視性和制定AI相關應用規範將是維護組織整體資安態勢的重要關鍵」。

今年趨勢科技Risk to Resilience世界巡迴研討會將在台灣聚焦談論數位防禦的未來，重點關注於各種企業環境、從端點到雲端的AI驅動資安策略，並探討Trend Vision One平台化資安在統整和強化資安風險回應的能力，幫助企業即時偵測回應既有和新興威脅、全面控管攻擊面、強化內部溝通效率。