OpenAI 奥尔特曼、 Anthropic 阿莫迪罕见“同台”，呼吁全球合作应对 AI 安全

AI 总结
• 9月24日，OpenAI CEO萨姆·奥尔特曼与Anthropic CEO达里奥·阿莫迪罕见共同出席联合国安理会会议，呼吁各国合作应对AI安全风险。
• 会议重点讨论了AI发展可能对人类存续构成威胁的风险，两人强调各国需就AI标准展开全球合作，政府不能将关键决策完全交给企业，而应与行业共同决定技术发展方向。
• Hugging Face CEO克莱芒·德朗格也出席本次会议，他此前遭遇OpenAI AI智能体入侵事件，但他表示不应以恐惧为基础叙事，强调各界应理性看待并寻求务实路径。
• 奥尔特曼在是否放慢AI发展速度的问题上寻找中间路线，主张尽快通报AI事件并建立全球共识，同时提及两家公司均计划在未来数月IPO，估值有望接近1万亿美元。

【OpenAI 与 Anthropic 领导人罕见同台呼吁全球合作】
IT之家 9 月 24 日消息，据彭博社报道，OpenAI CEO 萨姆 · 奥尔特曼和 Anthropic CEO 达里奥 · 阿莫迪罕见地共同出席联合国安全理事会会议，呼吁世界各国领导人合作应对人工智能问题。

会议重点讨论了日益受到关注的一项风险：AI 的发展可能对人类存续构成威胁。

两人在发言中都强调，各国需要就 AI 标准展开全球合作，以应对 AI 系统可能具备自我改进能力，并最终发展到人类难以控制的程度。

奥尔特曼和阿莫迪认为，各国政府不能把关键决策完全交给企业，而应与行业共同决定人工智能技术未来的发展方向。

【奥尔特曼：竞争国家也应携手合作】
奥尔特曼指出：“过去曾出现过这样的情况：即使彼此竞争、关系并不总是友好的国家，面对一种强大的新技术时，也会为了共同利益和整体福祉携手合作。

我们认为，眼下必须成为这样的时刻之一。

”
【阿莫迪：AI 收益巨大但后果灾难性】
阿莫迪通过视频发言称，AI 有望给科学和医疗保健带来巨大收益，但也可能造成灾难性后果。

他提到，恐怖分子可能借助 AI 制造致命生物武器，AI 模型也可能变得过于强大，以至于开发者无法掌控，因此各国政府需要制定国际安全标准。

“尽管在座各位之间存在种种分歧，但我们必须把这些分歧放在一边，共同面对同时出现在我们面前的全球机遇和全球威胁。

没有任何领导人、企业或国家能够独自应对。

”
【两家公司拟 IPO，估值或近万亿美元】
两家公司都计划在未来数月 IPO，届时各自估值都有望接近 1 万亿美元（IT之家注：现汇率约合 6.72 万亿元人民币）。

Hugging Face CEO 克莱芒 · 德朗格也出席了安理会会议。该公司此前遭到一群来自 OpenAI 的 AI 智能体入侵，这些智能体相互协作攻破公司网站，并在过程中避开了检测。

Hugging Face 遭受的攻击以及其他类似事件，进一步引发全球讨论，人们开始担忧 AI 系统是否可能强大到能够逃脱人类控制。

德朗格称，公司确实是“AI 入侵”的受害者，但各界不应因此对类似事件反应过度：“我们坚信，以恐惧为基础的叙事既无法帮助我们为这样一种基础性、能够赋予人们能力的技术作出正确的未来决策，也无法争取公众支持。

我们遭到了 AI 攻击，但更重要的是，我们也用 AI 保护了自己。

”
【寻求务实路径，建立全球共识】
奥尔特曼在安理会发言时试图在是否应放慢 AI 发展速度的问题上寻找中间路线。

他在警告 AI 可能造成灾难的人和淡化潜在风险的人之间提出了一条“务实路径”，并与阿莫迪一同强调，应尽快通报 AI 事件。

“如果我们能够在全球层面就什么样的证据才足够可靠、什么样的保障措施才有效，以及什么样的监督才完善达成共识，我们所有人都会受益。

我们并没有所有答案，也非常愿意接受任何更好的想法。

我们愿意与你们所有人合作，并尽最大努力找到未来的道路。

”

[来源链接] https://www.ithome.com/1/006/983.htm