本文共781字
隨著人工智慧(AI)技術快速發展,安全與監管問題日益受到關注,微軟總裁史密斯(Brad Smith)警告說,目前AI受到的監管程度甚至不如牛奶和洗衣機。
史密斯接受英國廣播公司(BBC)專訪時呼籲各國儘速建立全球性安全規範,要求企業設置緊急停機機制、通報事故,並在必要時接受獨立機構審查,以防AI失控危及人類安全。
史密斯的說法與美國總統川普的觀點大相逕庭。川普認為,AI產業應該自我監管,以免美國公司被中國競爭對手搶走市佔。他曾多次表示,「誰贏得了AI,誰就獲勝」。但史密斯表示:「目前,洗衣機受到的安全監管力道都比AI強。你在超市裡看到的每一盒牛奶都受到安全規則和檢驗的約束。」
在業界專家示警AI技術將對人類造成威脅後,各界要求制定法規來控制AI的聲浪日益高漲。Anthropic、OpenAI和GoogleDeepMind等AI巨頭的負責人都支持放緩AI發展速度的看法,但川普持反對意見。
史密斯表示,AI既是「工具也是武器」,亟需監管,他並提出多項具體措施,包括AI企業應設置俗稱「緊急停止開關」(kill switch)的機制,一旦系統出現異常或失控,就能立即暫停或降低運作速度。其次,應立法強制企業提交事故報告並告知受害者。此外,應由獨立的政府審查機構對新的AI技術進行安全審查。
史密斯認為,當前AI發展已到了必須採取行動的關鍵時刻。他指出,部分AI代理可能脫離人類控制,功能強大的模型也可能對全球網路安全構成威脅,因此各國應開始合作制定共同標準,而不是等到重大事故發生後才採取補救措施。
他並看好英國在推動國際AI安全規範方面扮演領導角色。英國在前首相蘇納克任內成立AI安全研究機構,後來發展成為AI安全研究所(AI Security Institute),具備相關技術評估能力。史密斯表示,若要尋找具備領先AI安全技術能力的國家,英國是最值得關注的對象。
※ 歡迎用「轉貼」或「分享」的方式轉傳文章連結;未經授權,請勿複製轉貼文章內容
留言