Anthropic 正开发 FlashProve 开源系统：用密码学证明 AI 输出来自哪个模型

AI 总结 • Anthropic 于 11 月 4 日发布博客，介绍其正在开发的开源系统 FlashProve，该系统通过密码学证明验证特定 AI 输出确实源自指定模型，实现“可证明推理”。 • 该系统原理类似电子邮件签名，能防止模型被伪装，有效遏制 AI 公司为降本暗中换用廉价模型，或人为使用昂贵模型以抬高测试结果的行为。 • FlashProve 支持验证第三方关于先进模型完成任务的声明，AI 实验室可公开不含模型权重的“指纹”用于匹配输出，因此也适用于商业闭源模型。 • 系统设计力求轻量化，支持用户在本地设备直接完成验证，相关技术规范与可运行代码已在 GitHub 以开源形式公布，目前仍处于阶段性研究阶段，尚未正式部署。 IT [来源链接] https://www.ithome.com/1/022/231.htm

该板块内容需要购买后才能完整浏览

立即购买