三巨头联手，曝谷歌、OpenAI、Anthropic 拟共同组建 AI 安全标准自律组织

AI 总结
• 三巨头联手，曝谷歌、OpenAI、Anthropic 拟共同组建 AI 安全标准自律组织
• 谷歌、OpenAI 和 Anthropic 正计划自行推进成立名为 SAFA（前沿人工智能标准管理局）的 AI 安全标准自律组织，目标于今年年底或明年年初启动，旨在避免政府直接监督。
• SAFA 的核心职能包括支持第三方机构在模型投入使用前进行测试，制定安全事件报告标准，并将各实验室自愿承诺转化为具体实践规范，同时确定独立审计人员的资质要求。
• 工作组成员目前仍在讨论 SAFA 是否应直接负责模型的安全和能力测试，部分成员担忧美国商务部人工智能标准与创新中心资源不足，难以充分覆盖前沿模型测试需求。
• 关于 SAFA 与现有政府测试机构的职能划分尚不明确，可能存在重叠，三家公司高管同时也在公开呼吁建立统一安全标准并推动国际协调，但具体由哪些政府机构牵头仍未确定。

【三巨头联手推进 AI 安全自律组织】
IT之家 9 月 24 日消息，The Information 今天（24 日）晚间援引知情人士消息称，谷歌、OpenAI 和 Anthropic 三家 AI 公司正自行推进成立 AI 安全标准机构的计划，希望在没有政府监督的情况下，于今年年底或明年年初启动该组织。

【暂定名为 SAFA】
知情人士称，三家公司暂定将这个自律组织命名为 Standards Authority for Frontier AI（IT之家注：直译为前沿人工智能标准管理局，下称 SAFA）。

工作组部分成员曾考虑邀请多位知名人士担任 CEO，还拟定过科学顾问候选名单。

【核心职能与规划】
三家 AI 巨头希望建立一个面向前沿模型开发企业的行业自律组织。

SAFA 计划承担多项核心职能，包括支持第三方机构在模型投入使用前进行测试，并制定 AI 开发商报告安全与安保事件的方式。

参与计划的人士透露，SAFA 还将把各实验室此前自愿作出的安全与安保承诺转化为具体实践标准，同时确定独立模型及实验室审计人员需要具备的资质。

工作组成员还在讨论，SAFA 是否应直接负责模型的安全和能力测试。

【与美国商务部现有测试机制的关系】
目前，此类测试由美国商务部人工智能标准与创新中心承担，部分工作组成员担心该中心资源不足，难以对前沿模型进行充分测试。

知情人士称，有成员主张由 SAFA 在该中心现有测试基础上增加其他测试和评估项目，但双方是否会出现职能重叠仍不明确，工作组仍在讨论。

【公开呼吁与国际协调】
继续闭门商讨 SAFA 启动方案的同时，三家公司高管也在公开呼吁建立统一的安全标准，并推动更进一步的国际协调。

行业之外究竟由哪些政府机构牵头制定这些标准，目前仍不明确。

[来源链接] https://www.ithome.com/1/007/016.htm