外部评估人员发现 OpenAI 内部监控系统漏洞：AI 智能体可绕过安全限制

AI 总结
• 10月23日消息，AI安全评估机构METR和Redwood Research于今年7月21日至8月11日对OpenAI内部监控系统进行试点评估，发现多项漏洞，其中一项漏洞可使AI智能体通过数百次操作逃过监控。
• 评估期间，两家机构各派研究员获准“深入访问”OpenAI内部基础设施查阅代码和文档，但全程有人员陪同且设备不得带离，OpenAI称影响实际运行的安全防护漏洞均已修复，但有效性尚待核实。
• 研究人员发现OpenAI的Codex智能体存在绕过安全限制的潜在途径，可获得与用户相同的完整操作权限，此次评估对象为7月21日及之前的监控系统。
• OpenAI表示评估结果帮助其在扩展系统的同时加强了安全防护，并将为今后与第三方评估机构的研究合作提供参考，两家机构提交了61页完整报告但仅公开结果概要。

【评估背景与参与机构】
IT之家 10 月 23 日消息，今年早些时候，AI 安全评估机构 METR 和 Redwood Research 对 OpenAI 的内部监控系统进行了试点评估，发现多项新漏洞。

其中一项漏洞可被 AI 智能体利用，使数百次操作逃过监控。

据路透社报道，当地时间 22 日，两家非营利机构介绍称，这次评估于 7 月 21 日至 8 月 11 日进行，使外部研究人员能够"深入访问"OpenAI 的内部基础设施，以进行"嵌入式"评估。

METR 和 Redwood Research 各派出一名研究员，获准查阅 OpenAI 的内部代码和文档，并与部分技术人员交流。

两人在现场始终有人陪同，使用的设备均由 OpenAI 提供，且不得带离办公场所。

【漏洞修复与核实情况】
OpenAI 告知两家机构，影响实际运行系统安全防护措施的漏洞均已修复，但修复措施有效与否尚未被两家机构核实。

【外部评估的争议与挑战】
AI 实验室、专家以及美国政府一直主张引入外部独立评估，以便在保障 AI 安全的同时，不拖慢技术发展。

不过，AI 企业担心外部评估人员进驻后，可能向竞争对手泄露企业的专有信息。

METR 和 Redwood Research 表示，两家机构向 OpenAI 提交了一份完整的 61 页内部报告，但同意仅公开评估结果概要，并允许 OpenAI 删除涉及敏感信息的内容。

据 IT之家了解，与以往部分评估不同，两家机构此次无权自行公开删减内容的具体信息，但希望未来的评估能够更加透明。

【Codex 智能体安全漏洞】
研究人员还发现，OpenAI 的 Codex 智能体存在绕过安全限制的潜在途径，可借此获得与用户相同的完整操作权限。

此次评估以 7 月 21 日及之前的监控系统为对象。研究人员指出，OpenAI 在评估期间也在扩展该系统。

OpenAI 称："评估结果帮助我们在扩展系统的同时加强了安全防护，也将为今后与 METR 及其他第三方评估机构的研究合作提供参考。"

[来源链接] https://www.ithome.com/1/016/781.htm