微软被曝正评估将 Kimi K3 接入 Copilot，推理成本年降 6 亿美元

IT之家 7 月 22 日消息，The Information 周一报道称，微软正在内部测试月之暗面 Kimi K3 大模型，并评估将部分 Copilot AI 助手推理请求从 OpenAI、Anthropic 模型迁移至 Kimi K3 的可行性。 微软内部估算，如果未来将部分 Copilot 请求切换至 Kimi K3，每年最多可能减少约 6 亿美元（IT之家注：现汇率约合 40.66 亿元人民币）的云基础设施成本。不过，微软尚未作出最终模型替换决定。 目前微软是 OpenAI 的主要投资方和独家云服务提供商，目前 Copilot 产品大量使用 OpenAI GPT 系列模型。 同时，微软近年来也在探索多模型策略，以降低对单一模型供应商的依赖，并优化人工智能服务运行成本。 据知情人士透露，微软正在与月之暗面合作测试 Kimi K3。该模型在代码生成、逻辑推理等任务中的表现被认为具有竞争力，同时推理成本低于部分 OpenAI GPT-4 系列和 Anthropic Claude 系列模型。 AI 推理成本已经成为大模型商业化落地的重要因素。 以 Copilot 等 AI 助手为例，大量用户请求会持续消耗计算资源和电力。 因此，对于代码补全、基础问答等非核心复杂任务，采用成本更低的模型可能成为降低运营支出的方式。 报道称，微软预计将在未来两个月内完成初步技术验证，并根据测试结果制定后续方案。不过，微软若要实际迁移部分 Copilot 流量，仍面临技术和合规挑战。 报道指出，Kimi K3 虽然在部分代码任务中表现较好，但在复杂推理、多轮对话以及安全能力方面，是否能够达到 Copilot 企业用户需求，仍需要大规模测试验证。 此外，Copilot 当前架构与 OpenAI API 接口、模型微调工具链存在较深绑定。如果切换至其他模型，微软可能需要调整提示词工程、输出解析以及错误处理等系统组件。 由于微软是一家美国科技公司，将部分用户请求交由中国 AI 公司模型处理，还需要考虑不同地区的数据主权要求以及出口管制相关因素。 一名前微软高管表示，降低成本的收益需要与用户体验进行权衡，如果模型质量下降导致用户流失，节省的成本可能无法抵消影响。 报道指出，微软目前关注 Kimi K3 的重点并非其是否具备最先进能力，而是其在特定场景中的成本效率。 这一趋势也反映出大模型市场竞争正在发生变化。随着企业用户更加关注模型部署成本，AI 服务采购正在从单纯追求最高性能转向性能、成本和稳定性的综合平衡。 微软此前已经通过 Azure AI 平台接入 Meta Llama、Mistral 等第三方模型。但如果 Copilot 部分核心产品流量采用中国模型供应商方案，仍 ...

该板块内容需要购买后才能完整浏览

立即购买