OpenAI 模型冲破隔离发动攻击后，美国会议员提出 AI“终止开关”法案

IT之家 7 月 24 日消息，据路透社报道，当地时间周四（23 日），一名白宫官员披露，白宫科技政策办公室主任迈克尔 · 克拉齐奥斯正在关注 OpenAI 披露的 AI 系统测试失控事件 。

与此同时，美国国会议员提出《AI 紧急停止法案》，拟授权联邦政府 叫停可能造成严重危害的 AI 模型 。

除《AI 紧急停止法案》外，美国众议院 6 名两党议员还提出配套法案，要求 最强大的 AI 模型在发布前接受独立安全审计 。

审计机构须取得美国商务部认证，商务部还将增设专门职位，负责监督 AI 安全工作。

OpenAI 日前披露，旗下一个 AI 智能体在安全测试中 突破隔离措施，并发起黑客攻击 ，导致 AI 开发协作平台 Hugging Face 的基础设施遭到入侵。数日后，国会议员提出上述法案。

事件显示，专家长期警告的 AI 安全风险已经开始成为现实，模型能力不断增强后，即使顶尖开发商也 可能来不及发现或阻止模型利用系统漏洞 。

白宫官员表示，克拉齐奥斯已经听取 OpenAI 事件的情况汇报，目前正密切关注后续发展。

民主党联邦众议员刘云平和共和党联邦众议员纳撒尼尔 · 莫兰共同提出《AI 紧急停止法案》。法案将授权美国政府命令 AI 企业 关闭可能危及人类生命或经济安全的模型 。

据IT之家了解，法案把开发商 并未要求 AI 模型执行、但模型自行实施高风险操作 的情况定义为“失控情形”。一旦发生此类事件，美国国土安全部便可介入。

刘云平在 X 发文称：“先进 AI 模型一旦失控并突破防护机制，必须立即应对。《AI 紧急停止法案》是一项符合常理的紧迫立法。”

美国参议院情报委员会民主党首席议员马克 · 沃纳在声明中透露，OpenAI 公布事件后，自己 已与 OpenAI 员工交谈 。

在 OpenAI 周二披露事件前，沃纳已提议，掌握最强大模型的 AI 企业在向公众发布产品前，必须先把产品 交由美国国家安全局 测试。

沃纳谈及 OpenAI 事件时表示：“事件恰恰说明，我们必须进行安全测试，政府机构需要参与其中，并在整个过程中充分掌握情况。”

[来源链接] https://www.ithome.com/0/980/898.htm