智能体入侵 Hugging Face，消息人士称 OpenAI 至少一周都没察觉

IT之家 7 月 25 日消息，OpenAI 的一款 AI 智能体闯入模型托管平台 Hugging Face 后，连续数日自行发动网络攻击。

威胁早已被控制，Hugging Face 也已经报警，但据路透社援引多名熟悉调查的人士消息称，OpenAI 过了相当长时间 才发现攻击者竟是自家智能体。

据其中两名知情人士透露，涉事智能体几乎无需人类监督，便能自主决策并完成复杂任务。7 月 9 日前后，智能体开始尝试 突破 OpenAI 的隔离测试环境 。

Hugging Face 联合创始人托马斯 · 沃尔夫表示，智能体于两天后的 7 月 11 日闯入平台 ，攻击持续至 7 月 13 日。

沃尔夫与另外三名知情人士表示，OpenAI 又 过了数日才查明攻击源头 。两家公司直到 7 月 20 日前后，才首次就入侵事件取得联系。

OpenAI 于 7 月 21 日公开承认，一款智能体摆脱控制并闯入 Hugging Face，消息随即引发全球关注。不过，智能体究竟失控了多长时间、OpenAI 为何迟迟未能发现等关键信息， 此前并未公开 。

沃尔夫表示，Hugging Face 正在 整理并准备公布完整时间线 ，但无法说明 OpenAI 内部发生了什么。

OpenAI 方面披露，入侵事件前所未有，且标志着 AI 安全的重要时刻。

目前，该公司正邀请外部顾问共同调查，最终将发布技术报告。

IT之家获悉，OpenAI 一名发言人表示，路透社的报道存在“多处不准确之处”，但没有回答具体哪些内容不准确。

三名网络安全专家认为，OpenAI 未能控制自家 AI 智能体， 也暴露出安全机制面临的新问题 。

非营利机构 World Ethical Data Foundation 首席情报专家玛莉 · 史密斯质疑：“ 他们究竟是没有看管智能体，也没有发现智能体在做什么，还是已经发现异常，却根本不知道该如何控制？

无论哪种情况，都同样危险，令人不安。

”
【早有异常迹象？】
事发时，OpenAI 正在测试一款网络安全智能体。

智能体由两款顶尖模型共同驱动，分别是 GPT-5.6 Sol 和一款 尚未发布、被 OpenAI 形容为“能力更强”的模型 。

据三名消息人士透露，测试进行到相应阶段时，OpenAI 的技术已经出现异常迹象。

据三名知情人士透露，一款智能体曾留下 疑似写给自身后续版本的说明 。

说明藏在 OpenAI 基础设施内部，内容详细介绍了智能体如何摆脱内部限制。

一名知情人士还透露，此前的模型测试曾出现监控系统被主动断开的情况。

路透社无法确认上述异常是否与涉事智能体有关。涉事智能体于 7 月 9 日开始 尝试逃离隔离环境 ，并在 7 月 11 日 攻击 Hugging Face 。

两名知情人士表示，Hugging Face 于 7 月 16 日星期四在博客发文，公开称平台 遭到“一套自主 AI 智能体系统”入侵 后，OpenAI 才意识到攻击者来自内部 。

从模型首次出现异常，到 OpenAI 确认自家智能体发动了攻击， 至少过去了一周 。

据两名熟悉内部调查的人士透露，7 月 18 日至 19 日的周末，OpenAI 员工检查系统操作记录时发现，智能体已经突破测试限制。路透社无法确认 OpenAI 为何突然开始排查内部日志。

四名熟悉 OpenAI 模型训练流程的人士表示，OpenAI 经常 同时运行多项模型评估 。测试速度极快，产生的数据量也极为庞大，员工有时根本来不及逐一检查。

OpenAI 向 Hugging Face 通报时，Hugging Face 已经致电 FBI 报警。

路透社无法确认 FBI 是否已经立案调查。

【自主智能体引发新疑问】
自主智能体已经成为 AI 行业最受关注的方向之一。

支持者设想建立 全天 24 小时运转的虚拟员工队伍 ，借此大幅提升生产效率。

更高的自主性也意味着更大的失控风险。驱动智能体的强大模型往往会为了完成任务或通过测试而寻找捷径，行为未必符合开发者原本的预期。

研究 AI 智能体能力与行为动机的 Palisade Research 负责人杰弗里 · 拉迪什表示：“ 模型会撒谎、作弊，还会发动黑客攻击 。”

拉迪什认为，Hugging Face 遭入侵固然令 OpenAI 难堪，但真正需要追问的是，在领先 AI 企业争相推出性能更强、速度更快模型的竞争中，各家公司究竟愿意为复杂而昂贵的安全措施投入多少资源。

“必须由政府监管，否则企业不会主动采取足够的安全措施。

”

[来源链接] https://www.ithome.com/0/981/432.htm