人工智慧協定18國簽署 推動「設計安全」AI系統的協定

美國等18國26日簽署一項攸關人工智慧（AI）的國際協定。美國國土安全部網路安全與基礎設施安全局長伊斯特利表示，這是國際間首份詳載如何確保AI不致遭不肖之徒入侵，並推動企業創建「設計安全」AI系統的協定。

路透報導，該協定共20頁，英、德、義、星、捷克、愛沙尼亞、波蘭、澳洲、智利、以色列及奈及利亞等18國同意，設計和應用AI的公司，有必要以確保顧客及社會大眾免於AI濫用威脅的方式，發展與運用這項科技。

該協定雖不具拘束力，內容大多屬一般性建議，像監督AI系統是否遭濫用、保護資料數據不致遭竄改，還有審查軟體供應商。但伊斯特利認為，重要的是有這麼多國簽署，認同AI系統需將安全置於首位的看法。

伊斯特利說，「這是我們首次確認，（AI的）這些能力不應該只跟酷炫的特色，以及我們多快能在市場推出這些能力，或我們能如何競爭，以降低成本」。

該協定是各國政府在形塑AI發展上，提出的一連串倡議中最新一項，儘管這些倡議具實際力量者少之又少，而不管是產業及整個社會，AI的影響力正愈來愈有感。該協定的架構處理怎樣防止AI技術遭駭客把持的若干問題，並包括諸如唯有在經過適當安全檢測後，才能夠公布AI模型之類的建議。

但該協定並未觸及一些棘手問題，像如何適當應用AI、或如何蒐集輸入AI模型的資料數據。針對AI相關規範，歐洲的腳步比美國快，歐洲的國會議員正研擬規定，法德義最近亦達成一項應如何規範AI的協定，並支持透過行為準則，強制自我規範生成式AI的一種形式：AI基礎模型。

AI的興起已掀起一連串擔憂，包括AI恐被用來擾亂民主進程、助長詐欺行為、引發嚴重失業等多項危害。

美國總統拜登10月底簽署行政命令，計劃對AI研發和應用進行規範和管控，這是白宮首次發布針對AI的行政命令。此令涵蓋層面廣泛，包括建立AI安全新標準、保護民眾隱私、推動平等和民權、保護消費者和工人、促進創新和競爭，確保美國在全球AI競賽中處於領先位置。

早在6月中旬，歐洲議會便已通過一部AI監管法案，為全世界首例，試圖解決AI對人類有害的影響。

歐盟此法將嚴格限制臉部識別軟體的應用，同時規定ChatGPT聊天機器人等系統AI開發商披露更多程式編寫的數據。