• 回答数

    0

  • 浏览数

    35

  • 收藏数

    0

作者:nbman 发表于 4 天前
跳转到指定楼层
AI 总结
• 11月14日,曾任职于 OpenAI 和 Anthropic 的研究员雅各布·考克森表示,Anthropic IPO 路演中一张展示模型训练算力需求变化的图表,是他离职的重要原因;他在 Anthropic 工作约四个月。
• 该图表使用压缩坐标轴,使算力需求增长10倍和100倍看起来差异不大,但曲线仍急剧上升;考克森认为这说明算法效率提升速度正在不断加快。
• 他认为 Anthropic 今年春季推出的 Mythos 模型并非偶然突破,而是超指数增长趋势中的节点,如今只需最初训练时的一小部分算力就能重新训练 Mythos。
• 考克森主张明年暂停前沿 AI 模型研发,让竞争对手有机会赶上,并称这将使达到人类水平的智能成为可广泛获取的商品,受损的只有 OpenAI 和 Anthropic。
• 他今年9月公开警告先进 AI 风险,业内其他人士也提出类似担忧,认为能不断自我改进的先进 AI 最终可能脱离人类控制。

【离职原因】
IT之家 11 月 14 日消息,曾任职于 OpenAI 和 Anthropic、因公开警告 AI 风险而受到广泛关注的研究员雅各布 · 考克森称,Anthropic 在 IPO 路演中展示的一张幻灯片,是促使他离职的重要原因。

考克森在 Anthropic 只工作了约四个月。

让他决定离职的原因之一,是公司 IPO 路演中一张展示 AI 模型训练算力需求变化的图表。
【算力需求图表】
图表采用压缩坐标轴,即使算力需求增长 10 倍和 100 倍,看起来也相差不大。

即便如此,曲线依然急剧上升。考克森认为,这说明算法效率不仅在快速提高,而且提升速度还在不断加快。“这张图实在太惊人了,没想到他们竟然会公开。”


【Mythos 模型突破】
考克森认为,Anthropic 今年春季推出的 Mythos 模型在性能上实现重大突破,并非偶然,而是算法效率加速提升的结果。

他写道:“Mythos 并非一次偶然的突破,而是超指数增长趋势中的一个节点。

现在,他们只需耗费最初训练时的一小部分算力,就能重新训练 Mythos。

”
【主张暂停研发】
考克森指出,算法改进即将实现自动化,因此主张明年暂停前沿 AI 模型研发,让竞争对手有机会赶上。

他认为,此举将使达到人类水平的智能成为可以广泛获取的商品,受到损害的只有 OpenAI 和 Anthropic。

【背景与风险警告】
考克森曾在 OpenAI 负责 AI 模型训练工作,最近一份工作则是在 Anthropic。

今年 9 月,他公开警告先进 AI 系统可能带来的风险,引发广泛关注,业内其他重要人士也提出了类似警告。

他们担心,能够不断自我改进的先进 AI 最终可能脱离人类控制。

[来源链接] https://www.ithome.com/1/027/221.htm
分享:
回复

使用道具

成为第一个回答人

高级模式 评论
您需要登录后才可以回帖 登录 | 立即注册
⚠️

AI客服助手

⇲ ×
AI
您好!我是AI客服助手,有什么可以帮助您的吗?

请先登录后使用AI客服助手

立即登录
内容由非常AI大模型生成,仅供参考,相关风险需自行承担。

赚钱

会员VIP

留言板

商务合作

联系电话:17308937318

QQ邮箱

QQ:118275

邮箱:118275@qq.com

友情链接