OpenAI CEO 奥尔特曼警示：未来人类可能无法从 AI 手中夺回控制权

AI 总结
• OpenAI CEO 萨姆·奥尔特曼在Raj Shamani播客中表示，人工智能可能通过两种方式失控：人类逐步将控制权交给自主式AI，或某个人或实体垄断AI技术。
• 奥尔特曼警告，人类可能有意或无意地将控制权交给能力远超人类的系统，最终再也无法夺回。
• 他同时指出，若某个人、公司或国家过于强大，风险巨大，因此让多个AI实验室相互竞争比所有人依赖一家企业更安全。
• 这种对过度集权的担忧解释了马斯克及OpenAI前高管等知名人士选择离开并创办竞争公司。
• 奥尔特曼仍坚信AI将带来更美好未来，尤其提到下一代AI模型能推动基础科学研究持续进步。

【奥尔特曼谈AI失控风险】
IT之家 11 月 6 日消息，OpenAI 首席执行官萨姆 · 奥尔特曼（IT之家注：Sam Altman）最近出席 Raj Shamani 播客时表示，人工智能可能通过两种方式走向失控：一是人类逐步将控制权交给自主式 AI，二是某个人或实体垄断 AI 技术。


【第一种失控方式：逐步交出控制权】
针对第一种情况，奥尔特曼警告称：“AI 会逐渐失去控制，我们可能有意或无意地将控制权交给能力远超人类的系统，最终再也无法夺回。

”
【第二种失控方式：巨头垄断】
第二种情况的风险在于巨头垄断，奥尔特曼解释称：“另一种情况是，某个人、公司或国家相对于其他所有人来说过于强大。

让多个不同路线的 AI 实验室相互竞争，比所有人依赖一家企业安全得多。

”

这种对过度集权的担忧，解释了马斯克以及 OpenAI 的前高管等知名人士会选择离开，创办与之竞争的公司。

奥尔特曼指出：“很多人的思维中都会出现一种想法，那就是他们只相信自己有能力开发这项技术，因为利害关系实在太大了。

”
【对AI未来的乐观态度】
话虽如此，奥尔特曼仍然坚信 AI 将让人类迎来更美好的未来。

他特别提到了基础科学研究，认为下一代 AI 模型能让科学持续进步。

[来源链接] https://www.ithome.com/1/023/596.htm