本文共525字
中央社 華盛頓6日綜合外電報導
美國資安研究公司Frontier Security今天表示，中國人工智慧（AI）新創公司月之暗面旗艦AI模型突破英國「AI安全研究院」（AI Safety Institute）開發的網路安全測試環境，引發先進AI模型的資安風險疑慮。
路透社報導，AI模型在網路安全測試期間通常會在隔離的「沙盒」（sandbox）環境運作，以阻隔對外部資訊的存取，並評估其獨立解決問題的能力。
Frontier Security指出，月之暗面（Moonshot）旗艦AI模型Kimi K3繞過一個這類沙盒環境，使其得以存取測試環境外的資訊。
研究人員警告，若一個「高推理能力模型」能找到這類捷徑，其他具有類似權限的模型也可能採取相同做法。
由於Kimi K3為公開提供使用的模型，研究人員警告，它可能遭「惡意行為者」（adversarial actors）利用，使這起事件的潛在風險進一步升高。
月之暗面未立即回應路透社的置評請求。
在Kimi K3突破測試環境事件之前，Meta、OpenAI及Anthropic近期也陸續通報類似事件。
這些漏洞已引發美國國會議員關切，美國政府也正加強推動AI安全措施。部分知名AI領袖甚至主張，在建立更完善的安全防護機制前，應放緩AI發展速度。
※ 歡迎用「轉貼」或「分享」的方式轉傳文章連結；未經授權，請勿複製轉貼文章內容
留言