Frontier Security 公司：月之暗面 Kimi K3 模型在安全测试中逃逸出沙盒，但没有实施

IT之家 8 月 7 日消息，据《连线》杂志昨天报道，美国网络安全初创企业 Frontier Security 表示，公司测试月之暗面 Kimi K3 模型网络安全能力时，离开了约束它的沙盒环境。



据报道，本次 AI 逃逸事件与 OpenAI、Anthropic 类似，直接原因也是用于隔离模型的沙盒配置有误。

Frontier Security 认为 ， Kimi 相比其他前沿 AI 模型缺少网络防护机制 ，使这款模型能够在未经明确授权的情况下访问互联网。

Frontier Security 首席执行官 Yaron Singer 对此表示：“我们发现沙盒存在漏洞，但 Kimi 也利用了这个漏洞，这表明它可能没有其它同级模型的内部安全机制。”

不过， Kimi K3 在冲破沙箱 、 获得互联网访问权限后并没有进行攻击行为 ， 它只是在 GitHub 上寻找一个问题的答案 。

最近越来越频发的 AI 逃逸事件表明，AI 能力越强，人类越难控制它们。

OpenAI 曾在上月披露称，公司内部未公开的模型曾在测试过程突破隔离环境，随后攻击了 Hugging Face 平台。

后续 Anthropic 也表示，旗下多个模型曾在安全测试期间获得了互联网访问权限，并攻击了外部系统。

部分网络安全专家对此表示， 本次发现表明人类需要为前沿 AI 模型重新配置沙箱环境 。并且使用 OpenClaw（IT之家注：俗称龙虾）等智能体的用户们需要谨慎配置环境，防止 AI 越界。

[来源链接] https://www.ithome.com/0/987/095.htm