电脑硬件🔥7.0

九年前的NVIDIA旧显卡翻身!3张V100合力跑AI:性能胜过苹果M5 Max

驱动之家·2026/11/20 03:22:00🔗 原文

📋总体概括

开发者Devon Bray用3张九年前的NVIDIA Tesla V100(各16GB显存,合计48GB)搭配Supermicro双路主板和Intel Xeon E5-2687W处理器,搭建了一台本地AI推理主机,核心硬件仅约1042美元(约6951元人民币)。该机通过llama.cpp运行Qwen 3.6 35B模型时达到每秒100.8个Token,在长上下文测试中甚至超过了搭载苹果M5 Max的Mac Studio。开发者还对K80、P100、V100进行130多项组合测试,验证了退役数据中心显卡在本地大模型推理中的性价比潜力。

⚡关键信息

  • ▸开发者用3张16GB的Tesla V100(总显存48GB)搭建本地AI主机,3张显卡合计仅655.16美元
  • ▸运行Qwen 3.6 35B模型最高达到每秒100.8个Token,长上下文测试超过搭载M5 Max的Mac Studio
  • ▸核心硬件约1042美元(约6951元人民币),包括Supermicro X10DRG-Q主板、Xeon E5-2687W和HX1500i电源
  • ▸开发者对K80、P100、V100以1至3张组合测试Qwen、Gemma等模型,共完成130多项推理测试

🔥犀利点评

这场测试最有意思的地方不是V100有多强,而是撕开了本地AI推理的另一个真相:苹果那套「统一内存优雅、能耗比无敌」的叙事,在极致性价比面前并不总是赢家。7000块人民币的电子垃圾翻新机就能在特定场景踩过旗舰Mac Studio,说明本地大模型的瓶颈是显存带宽和容量,不是品牌溢价。当然功耗和噪音V100依然是电老虎,M5 Max用户不必焦虑,但二手数据中心卡市场的这波热度恐怕要来了。

本文由本站自动聚合,以下为原始来源:前往 驱动之家 阅读全文 →