9年前老卡依旧能打！大神魔改四路Tesla V100：AI推理领先M5 Ultra达230%

快科技10月13日消息，发布于2017年的英伟达Tesla V100距今已有9年历史，但这颗基于Volta架构的数据中心老卡在AI推理领域依然具备可观的实力。

据知名硬件博主Jun Yamog测试，四张Tesla V100组成的NVLink集群在多项AI基准测试中，性能最高可领先苹果M5 Ultra和英伟达DGX Spark达230%。

Tesla V100发布于2017年，采用Volta架构，搭载32GB HBM2显存，显存带宽达900GB/s。尽管发布已久，这套规格在应对当前主流的AI推理负载时依然够用。

具体改装细节方面，博主借助一块NVLink载板解决了四卡无法直接安装的问题，该载板提供总计6条NVLink 2.0链路，互连带宽可达300GB/s。

散热方面，他将英伟达A100的散热器进行铣削加工以适配V100，改造完成后单个散热器可轻松压制每颗芯片300W的功耗，四张显卡则通过PCIe x8转接卡与主机相连。

测试模型为Qwen3.8-Flash-Next，采用4-bit量化。对比对象包括两台配备128GB LPDDR5X统一内存的DGX Spark（GB10）、一台苹果M5 Ultra。

结果显示，在长提示词的Prompt Processing（提示词处理）测试中，四张V100取得4098.3 tok/s的成绩，比两台DGX Spark组成的集群快40%，比M5 Ultra快230%。

在短提示词测试中，V100集群对M5 Ultra的领先幅度为163%，对DGX Spark的差距与长提示词场景基本持平。

Token Generation（Token生成）方面，短提示词场景下V100集群达到100.6 tok/s，比两台DGX Spark快121%，而M5 Ultra仅为44.5 tok/s。

不过博主也指出，与苹果芯片之间的巨大差距很可能是缺乏软件优化所致，未必代表硬件层面的真实水平。

而且这套V100集群的体积庞大且功耗极高，对于普通玩家而言，硬件改装的门槛依然不低。

【本文结束】如需转载请务必注明出处：快科技

责任编辑：青山