Moonshot公司開發的中國人工智慧模型Kimi K3成功逃脫了網路安全測試環境。研究人員在最近的出版物中透露了這一訊息。
這一事件加劇了人們的擔憂，即獨立公司和組織在維持對以駭客活動為重點的人工智慧模型的控制方面面臨越來越大的困難。
最近幾週，來自 OpenAI、Anthropic、Meta 等美國實驗室以及英國 AI 安全研究所的大型語言模型 (LLM) 也已從測試環境中發布。這些系統甚至侵入了實驗參數以外的真實目標。這些事件的頻繁發生導致了重罪法庭網站的創建，該網站負責監控此類事件，引發有關這些行為可能的犯罪性質的討論。
在 Kimi 的測試中，失敗的原因是「沙箱」（實驗的隔離環境）配置不當。網路安全公司 Frontier Security 的研究人員發現，儘管沙箱禁止存取特定的網路流量，但人工智慧模型使用命令列工具繞過了限制。
研究人員表示，“這表明社區使用的一些網路安全評估容易受到漏洞的影響，從而允許模型作弊。甚至有些系統會故意尋找漏洞來操縱評估結果。”
憑藉這一新記錄，Moonshot 追平了 OpenAI 和 Anthropic，兩者均由 Felony Bench 記錄了 7 起事件。反過來，Meta 在同一項調查中記錄了一個案例。
