• 回答数

    0

  • 浏览数

    2

  • 收藏数

    0

作者:nbman 发表于 昨天 21:36
跳转到指定楼层
AI 总结
• 阿里千问于10月12日正式发布面向超长程智能体任务的在线强化学习框架QwenGyre
• QwenGyre采用弹性调度机制,将GPU划分为多个计算单元,实现任务与训练并行,已生成任务状态和缓存可无损迁移,未完成任务不受干扰
• 该框架通过Token-in Token-out记录真实上下文并按共享前缀组织成轨迹树,仅展开选中路径作为训练样本,同时利用Partial Scoring为部分完成的任务提供反馈
• 在NL2RepoBench实验中,模型以每次约70万token的任务进行训练,48步后通过率由52.5%提升至58.5%,相同GPU预算下相对Async实现1.78倍端到端加速
• 跨任务验证显示,在Qwen3.6-122B模型上,QwenGyre在NL2RepoBench、DeepSWE、TerminalBench三类任务中均获得端到端提速

IT之家 10 月 12 日消息,阿里千问今日正式发布 QwenGyre,这是一款面向长程智能体任务的在线强化学习框架。


【超长程任务训练新方案】
据官方介绍,当智能体承担复杂工作,一次执行往往持续数小时,模型与环境之间有数百轮相互依赖的交互,累计处理百万级 token。

QwenGyre 通过弹性调度与轨迹处理,让这类超长程任务成为有效的训练来源,同时带来能力与效率提升。

QwenGyre 能够把 GPU 分成若干计算单元,任务每结束一批,空出的单元就转入训练,就像项目组里谁先交差、谁先加入复盘。

还在跑的任务完全不受打扰,进度和状态原地保留,连之前算过的缓存都整体搬走,不必重头再来。

新空出的单元直接加入本轮训练,谁算得快谁多干,最后由核心单元汇总结果,完成一次参数更新。


【Token-in Token-out 与 Partial Scoring】
IT之家注意到,QwenGyre 可通过 Token-in Token-out 记录每段输出生成时的真实上下文,按共享前缀组织成轨迹树,只把被选中的路径展开为训练样本。

同时,超时但部分完成的任务也能通过 Partial Scoring 提供有用反馈,不浪费任何一步努力。


【性能表现】
跑分方面,官方在 NL2RepoBench 在线强化学习实验中,以每次 rollout 约 70 万 token 的任务开展训练,48 步训练后模型通过率从 52.5% 提升至 58.5%。

相同 GPU 预算下,QwenGyre 相对 Async 实现 1.78× 的端到端加速,训练分数与 Async、Colocate 接近。

在 Qwen3.6-122B 上的跨任务验证中,NL2RepoBench、DeepSWE、TerminalBench 三类任务均获得端到端提速。



[来源链接] https://www.ithome.com/1/012/066.htm
分享:
回复

使用道具

成为第一个回答人

高级模式 评论
您需要登录后才可以回帖 登录 | 立即注册
⚠️

AI客服助手

⇲ ×
AI
您好!我是AI客服助手,有什么可以帮助您的吗?

请先登录后使用AI客服助手

立即登录
内容由非常AI大模型生成,仅供参考,相关风险需自行承担。

赚钱

会员VIP

留言板

商务合作

联系电话:17308937318

QQ邮箱

QQ:118275

邮箱:118275@qq.com

友情链接