资讯🔥8.0
SemiAnalysis:谷歌TPU杀入英伟达腹地,Ironwood每美元性能最高领先B200 50%
📋总体概括
SemiAnalysis发布首份谷歌TPUv7 Ironwood第三方推理测试,显示其每美元性能最高领先英伟达B200/B300达50%:每用户每秒100 token下,Ironwood每百万token成本约0.181美元,比B200便宜约19%、比B300便宜约34%;高并发下按谷歌TCO计算优势可扩至76.7%和130.2%。谷歌还将开源TorchTPU降低开发门槛,Anthropic已承诺采购超百万颗TPU,TPU正从内部自用走向对外挑战英伟达推理市场。
⚡关键信息
- ▸SemiAnalysis首测TPUv7 Ironwood,每美元性能最高领先B200/B300达50%,谷歌正式冲击外部推理芯片市场
- ▸每用户每秒100 token下,Ironwood每百万token推理成本0.181美元,低于B200的0.222美元和B300的0.276美元
- ▸高并发场景按谷歌内部TCO计算,Ironwood相对B200优势达76.7%,相对B300达130.2%
- ▸谷歌将开源原生PyTorch后端TorchTPU取代TorchAX,降低外部开发者使用TPU门槛
- ▸Anthropic承诺采购逾百万颗TPU,成为最大外部客户,2029年用量预计超过DeepMind自身
🔥犀利点评
这份报告最该追问的是口径:50%的峰值优势和130%的TCO差距,全在谷歌自家成本模型和高并发最利好TPU的场景里算出来的,无异于让考生自己出卷。但别急着否定——即便只看中性的0.181美元对0.222美元,TPU也真刀真枪便宜了19%,这才是英伟达真正的软肋。Anthropic百万颗订单说明这不是PPT芯片。CUDA护城河在推理侧远不如训练侧深,PyTorch统一后端正在填平它。英伟达的垄断第一次被人从性价比最脆弱处撕开了口子。
📰 相关资讯(与本文相关的其他资讯)
本文由本站自动聚合,以下为原始来源:前往 华尔街见闻 阅读全文 →