9 年前英伟达 Tesla V100 老将再战：4 GPU 集群 AI 推理跑赢 2 台 DGX Spark

AI 总结
• IT之家 10 月 13 日消息，YouTube 频道 Jun Yamog 于 10 月 12 日发布视频，测试了 4 张 Tesla V100 组建的 NVLink 集群在 Qwen3.8-Flash-Next 基准中的表现。
• 该测试配置包含 4 颗基于 Volta 架构的 Tesla V100（2017 年推出），通过配备 6 条 NVLink 2.0 连接的载板互联，并使用改装的 A100 散热器应对每颗 GPU 约 300W 的功耗。
• 在长提示处理测试中，4 卡 V100 集群速度比 2 台 DGX Spark 快 40%，比 M5 Ultra 快 230%；短提示处理速度则分别比 DGX Spark 快 40%，比 M5 Ultra 快 163%。
• 在短提示 Token 生成测试中，4 卡 V100 达到 100.6 tok/s，比 2 台 DGX Spark 快 121%，而 M5 Ultra 成绩为 44.5 tok/s。
• 测试结果显示，旧款数据中心 GPU 通过多卡互联优化，在特定推理负载中仍具备较高吞吐能力，与 Apple Silicon 的差距可能部分源于软件优化不足。

【9年老将重出江湖】
IT之家 10 月 13 日消息，YouTube 频道 Jun Yamog 昨日（10 月 12 日）发布视频，测试将 4 张 Tesla V100 安装于 NVLink 载板，在 Qwen3.8-Flash-Next 基准中，长提示处理速度较 M5 Ultra 快 230%，较 2 台 DGX Spark 快 40%。

IT之家查询公开资料，Tesla V100 是英伟达于 2017 年推出的数据中心 GPU，基于 Volta 架构，常用于 AI 训练与推理。

其 32GB 版本配备 HBM2 显存，900GB/s 显存带宽可支持大模型参数与数据的快速读取。

NVLink 是英伟达的 GPU 高速互联技术，用于在多颗 GPU 之间直接传输数据。相比通过 PCIe 通信，NVLink 可降低互联瓶颈，常用于多 GPU 服务器和 AI 计算集群。


【硬件改装细节】
该 NVLink 载板提供 300GB/s 带宽，并配备 6 条 NVLink 2.0 连接。

为容纳 4 颗独立 GPU，测试者改装 NVIDIA A100 散热器，让其可散发每颗 V100 约 300W 的功耗，并通过 PCIe x8 接口连接载板。

该主播使用 4-bit 量化的 Qwen3.8-Flash-Next 模型测试，对比对象包括 2 台配备 128GB LPDDR5X 统一内存的 DGX Spark，以及配备 M5 Ultra 芯片的 Mac Studio 设备。


【长提示处理测试】
在长提示处理测试中，4 颗 V100 较 DGX Spark 集群快 40%，较 M5 Ultra 快 230%。

测试者指出，与 Apple Silicon 的巨大差距可能部分源于软件优化不足。


【短提示处理与生成测试】
在短提示处理测试中，V100 集群较 DGX Spark 保持 40% 的速度优势，较 M5 Ultra 快 163%。

该结果显示，旧款数据中心 GPU 在特定推理负载中仍具备较高吞吐能力。



在短提示 Token 生成测试中，4 颗 V100 达到 100.6 tok/s，较 2 台 DGX Spark 快 121%；M5 Ultra 的成绩为 44.5 tok/s。



[来源链接] https://www.ithome.com/1/012/165.htm