行业“教父”“教母”齐发声：辛顿、李飞飞、吴恩达呼吁保持 AI 一定程度的开放

IT之家 8 月 13 日消息，据外媒 TechCrunch 今天（13 日）报道，诺贝尔奖得主杰弗里 · 辛顿、World Labs 联合创始人兼 CEO 李飞飞及 Coursera 联合创始人吴恩达近日分别阐述了自己对 AI 开放的立场。

三人上周在拉斯维加斯举行的 Ai4 大会上讨论了这一问题。具体解决方案虽然各不相同，但三人都提出了充分理由，认为 AI 仍需要保持一定程度的开放 。

三人担心的是，AI 技术的发展速度 最终由少数大型公司掌控 。

当少数企业垄断一项技术的使用渠道时，就可能出现类似 苹果和谷歌控制移动操作系统 的局面：创新速度下降，平台所有者也能影响开发者能够在平台上创造什么。

企业天然希望保护竞争优势，也可能通过影响行业规则来实现这一目的。长期发展下去，最先进的 AI 系统可能只有规模最大、资本最雄厚的企业才有能力开发。



辛顿不认为开放权重模型一定有助于维持这种竞争格局。

他特别区分了 开源软件和开放权重模型 ：开源软件会公开底层代码， 任何人都可以检查和修改 ；

开放权重模型则是将训练完成后的 模型参数直接公开 。

辛顿表示：“开源很好。

代码公开以后，很多人会逐行检查，然后指出，‘哦，这里有个漏洞。

’但是， 开放权重完全不是一回事 ，你先训练一个大模型，再把模型权重交给所有人。

我反对开放权重，因为基础大模型的训练成本非常高，人们拿到模型以后，却可以 用少得多的钱继续训练 ，让模型从事网络攻击之类的恶意活动。

”

辛顿同时承认，关于是否应该允许开放权重模型的争论 实际上已经结束 。

“我认为那场争论已经输了。

开放权重模型已经存在，过去阻止大量人获得大模型的主要门槛，也就是训练基础模型的成本，已经消失了。

现在已经太晚了。

”

接受开放权重模型已经存在， 并不意味着可以忽略潜在风险 。

“担心 AI 可能产生的不良后果，以及比人类更聪明的智能体可能会做什么， 我认为并不过分 。

把所有持这种观点的人都说成是在散布恐慌，才是不公平的。

”

辛顿认为，AI 会继续进步，而且总体上会在提高生产力、改善教育和医疗等领域带来积极影响。

吴恩达的关注点不同。

他认为，真正的问题不是开放模型有没有风险，而是谁掌握模型使用渠道，以及谁最终能够占领市场， 能够以更低成本开发模型的一方会取得优势 。

“我希望我们能够推动美国的竞争力和开源 AI。

我担心的是，美国国内大量的游说和恐慌渲染，让美国开源 AI 越来越难与中国推出的开放权重模型竞争。

”

吴恩达同时主张保留多个 AI 供应商， 让模型和企业彼此竞争 ，避免市场被少数参与者控制。

“如果只能给一个建议，我会选择推动开放。

AI 是一项令人惊叹的技术，我希望所有人都能掌握。

我不希望，AI 领域出现限制所有人获取和使用 AI 的‘守门人’。

”

李飞飞认为，不应该把问题简化成开放和封闭之间的二选一。“把问题变成 从完全开放到完全封闭的二元对立 非常危险。无论复杂的软件系统还是科学体系，实际情况都要细致得多。”

李飞飞用核物理举例：科学论文可以公开发表，铀必须受到监管， 实验室研究则处在两者之间 。

她认为，开放并不是只能在“完全开放”和“完全封闭”之间二选一，AI 生态系统的不同层面完全可以采用不同程度的开放。

她还以人类基因组计划为例说明 公共机构和私营机构合作的价值 ：该计划产生的知识成为其他机构继续开展工作的基础，制药企业可以从中盈利，科学家能够进一步推进研究，社会也因此受益。

“我认为，我们必须把 AI 当作类似的基础设施。

在科学发现、教育和全球合作中需要一定程度的开放，也需要让创业者拥有能够盈利的商业模式。

闭源系统同样可以存在 。

尤其是‘只能容忍其中一种模式’这种过于笼统的争论，本身就是一个错误命题。

我们需要进行更加细致的讨论。

”

三人都认同， 一定程度的监管仍然是确保 AI 沿正确方向发展的必要条件 。

辛顿表示：“我们希望 AI 朝着帮助人类的方向发展，监管可以帮助我们做到这一点。

不能把 AI 应该如何发展的决定权 交给马斯克和扎克伯格这样的人 。

”

[来源链接] https://www.ithome.com/0/989/245.htm