Day-0 支持：摩尔线程完成 3 万亿级参数 Kimi-K3.1 Pro 适配，支持文本与图片推理

AI 总结 • 11月4日，月之暗面公布Kimi K3.1 Pro完整模型权重； • 11月6日，摩尔线程宣布基于AI训推一体智算卡MTT S5000及MUSA软件栈，完成该模型的Day-0适配，打通模型加载、服务启动及文本、图片基础推理链路。 • Kimi K3.1 Pro是K3.1系列首款模型，也是迄今能力最强的3万亿级参数模型，支持100万上下文； • 在Arena运营的Agent Arena智能体排行榜中，位列开放权重模型第一、全部参评模型第13位，并在工作、编程与聊天三个类别中均居开放模型首位。 • 摩尔线程通过MUSA软件栈完成关键推理路径迁移与适配，覆盖框架执行、算子编译、设备运行和多卡通信； • 团队基于SGLang-MUSA承接上游模型实现，并通过MATE算子库、Triton-MUSA、TileLang-MUSA及MTCC编译器，将社区模型代码转化为MTT S5000上的实际推理服务。 • 针对Kimi-K3.1 Pro的稀疏注意力DSA，MUSA软件栈完成索引选择、KV缓存布局及Prefill、Decode计算路径的适配，接入MATE稀疏注意力算子，并与KDA状态管理、跨层残差及视觉Attention组成完整执行链路； • 面对MXFP4专家权重，团队通过在线转换与跨层复用FP8工作区执行专家计算，无需预生成完整离线FP8权重。 • 经过大规模后训练和强化学习，模型在代码、3D创作、金融研究、知识问答及长程Agent任务等方面全面提升； • 在代码与Agent基准测试中，Terminal-Bench 4.0得分65.7%，Kimi Code Bench 3.0 Long-horizon得分61.2%，高于K3的55.95%，表现已达到或接近顶尖闭源模型水平。 【IT之家消息】 IT之家 11 月 6 日消息，本月 4 日，月之暗面正式公布 Kimi K3.1 Pro 完整模型权重。 【模型排名】 在 Arena 运营的 Agent Arena 智能体排行榜中，Kimi K3.1 Pro（Max）位列开放权重模型第一、全部参评模型第 13 位，并在工作、编程与聊天三个类别中均居开放模型首位。 【适配宣布】 摩尔线程官方今日宣布，摩尔线程基于 AI 训推一体智算卡 MTT S5000 及 MUSA 软件栈，完成 Kimi-K3.1 Pro 模型的 Day-0 适配，打通模型加载、服务启动及文本、图片基础推理链路。 【模型参数与能力】 IT之家了解到，Kimi K3.1 Pro 是 K3.1 系列首款模型，也是迄今能力最强的 3 万亿级参数模型，支持 100 万上下文。 经过大规模后训练和强化学习，模型在代码、3D 创作、金融研究、知识问答及长程 Agent 任务等方面均全面提升。 在代码与 Agent 基准测试中，其表现已达到或接近顶尖闭源模型水平：Terminal-Bench 4.0 得分 65.7%，Kimi Code Bench 3.0 Lo ...

该板块内容需要购买后才能完整浏览

立即购买