电脑硬件
9年前老卡依旧能打!大神魔改四路Tesla V100:AI推理领先M5 Ultra达230%
📋总体概括
硬件博主Jun Yamog将四张2017年发布的英伟达Tesla V100通过NVLink载板组成集群,采用Qwen3.8-Flash-Next模型4-bit量化进行AI推理测试。V100基于Volta架构,单卡32GB HBM2显存、900GB/s带宽;改装用6条NVLink 2.0链路实现300GB/s互连带宽,并以铣削改装的A100散热器压制每卡300W功耗。结果显示该四路集群性能最高领先苹果M5 Ultra和英伟达DGX Spark达230%,证明9年前的数据中心老卡在AI推理场景仍有实战价值。
⚡关键信息
- ▸博主Jun Yamog用四张2017年发布的Tesla V100组成NVLink集群,测试AI推理性能
- ▸V100基于Volta架构,单卡32GB HBM2显存,显存带宽达900GB/s
- ▸改装使用提供6条NVLink 2.0链路的载板,互连总带宽达300GB/s
- ▸散热由铣削加工的A100散热器承担,单卡可压制300W功耗
- ▸4-bit量化跑Qwen3.8-Flash-Next,性能最高领先M5 Ultra和DGX Spark达230%
🔥犀利点评
老V100吊打M5 Ultra并不意外——四张300W的数据中心卡功耗加起来轻松超1200W,拿去和一台整机比本来就不公平。真正有意思的是两点:一是HBM2的900GB/s带宽放在今天依然够打推理,显存带宽才是AI推理的命门;二是DIY精神没死,NVLink载板加铣削散热这种魔改,比营销PPT有营养得多。省下的电费和噪音,就当为情怀买单吧。
📰 相关资讯(与本文相关的其他资讯)
本文由本站自动聚合,以下为原始来源:前往 驱动之家 阅读全文 →