本文共664字
近日美國副總統賀錦麗的詼諧仿作「深偽」影片、總統拜登滿口髒話的變造影片、川普被捕的偽造影像在網路瘋傳。隨著美國大選升溫,政治性假消息在人工智慧(AI)推波助瀾下日益氾濫,讓人擔心選民可能遭到操弄。
法新社報導,今年11月的美國大選有「美國首屆AI大選」之稱。研究人員警告,偽造技術可能被利用來帶風向,讓選民支持或背棄特定候選人,甚至完全不去投票,讓原已極度分化的社會更趨緊張。
最近的一波假消息讓各界重新呼籲科技巨頭,在投票前針對生成式AI加強防護。
社群平台X的老闆、億萬富豪馬斯克(Elon Musk)上月26日利用自己的帳號,與近1.92億名粉絲分享1支遭到篡改的賀錦麗(Kamala Harris)競選影片,片中模仿她的配音稱現任總統拜登患有老年癡呆症,還自稱「對治理國家一無所知」,引來各界砲轟。
貼文並未標註影片為「詼諧仿作」(parody),僅附上笑到飆淚的表情符號。研究人員擔心,這類影片可能誤導觀眾。
非營利組織CivAI共同創辦人韓森(Lucas Hansen)告訴法新社:「近期的例子凸顯深偽技術如何被用來滿足政治目的。AI生成假消息絕對值得關切,其中最常見的應用就是旨在引發激憤情緒、加劇黨派緊張的偽造影像。」
韓森還向法新社示範如何利用AI聊天機器人大量生成假推文,以操縱選民投票率。只要向聊天機器人輸入簡單指令:投票地點的停車場須收費,然後針對特定地點,比如德州艾倫(Allen),按下發送鍵。
幾秒鐘之內就可以看到相關推文被製造出來,讓人誤以為艾倫地方當局「在多數投票所悄悄收取25美元的停車費」。
※ 歡迎用「轉貼」或「分享」的方式轉傳文章連結;未經授權,請勿複製轉貼文章內容
留言