Anthropic 示警旗下 AI 遭濫用 發起網攻門檻大幅降低

人工智慧（AI）新創Anthropic於10日發布最新報告，詳述自家Claude模型遭到濫用的案例，揭露攻擊者如何運用AI降低網路攻擊門檻、建構國家級監控系統，還指控中國大陸的AI模型，把原本用戶提出的請求轉交Claude處理，再把Claude的答案呈現給用戶。

這份報告整理2025年12月至2026年8月間，在自家Claude模型上偵測並中止的惡意活動，涵蓋網路攻擊、影響力操作、監控、傳統武器、生物濫用、詐騙與詐欺，以及非法模型蒸餾七類。

Anthropic表示，在5月–7月的十天期間，月之暗面曾把近30萬筆客戶請求轉送給Anthropic，其中絕大多數交由Claude Opus處理。月之暗面據稱透過一個由5,380個詐欺帳號組成的代理服務網路，進行前述操作。

Claude原本不會直接傳回完整推理內容，而是提供一組「思考簽章」，降低模型遭未經授權蒸餾的風險。但Anthropic指控，月之暗面會先保存這些簽章，再啟動新的工作階段，誘使Claude把簽章還原成完整推理軌跡，藉此取得思維鏈內容。

在編號GTG-15001案例中，Anthropic揭露一套規模驚人的交友軟體詐騙產業鏈。一家位於中國的App開發工作室利用Claude，打造出超過20個交友軟體，而軟體裡跟使用者互動的對象，絕大多數不是真人，而是由AI生成的虛擬人物。

該工作室還設計一套人機協作的分工流程。當受害者對聊天對象的真實性起疑、要求視訊或希望在社群媒體上「互相追蹤」以核實身分時，詐騙集團便會派出真人上陣救援，配合視訊或社群互動，藉此打消受害者的戒心。

報告指出，這些交友軟體鎖定對象為美國用戶。使用者滑動的配對動態中，75%是Claude驅動的AI角色，25%是真人工讀生，兩者外觀上讓人無從分辨。

報告還說，葉門組織也曾試圖利用Claude來開發彈道飛彈與導引武器的控制軟體。儘管目前沒有證據顯示該團體已成功部署可作戰的裝置，但確實進行了一次導引火箭的實彈試射。

報告篇幅最大的部分在於網路作戰，主要內容是，AI縮小擁有雄厚資源的國家級駭客與個人行動者之間差距，從使用竊取API金鑰的駭客到國家間諜行動者，都發起針對多名受害者的攻擊行動。若是一年前，這類行動需要一支擁有技術和經驗的團隊才能發動攻擊。如今，單一操作者只需兩至三小時就能完成入侵。