产业观察
PS5主机都能跑本地AI了:6年的技术比AMD、NV顶级芯片还要强
📋总体概括
近日有网有逆向改造PS5主机,成功运行Qwen 3.8 27B大模型,量化至2bit后速度约20Token/s。PS5是6年前发布的硬件,CPU为AMD Zen2架构、GPU仅RDNA2架构10.3TFLOPS,算力早已落伍,但其统一内存设计先进:256bit GDDR6提供448GB/s带宽,至今仍领先苹果M4 Max的410GB/s、M5 Pro的307GB/s,以及NVIDIA DGX Spark的273GB/s。这一案例说明本地大模型推理的瓶颈主要在内存带宽而非算力,游戏主机的内存架构在新场景下焕发第二春。
⚡关键信息
- ▸网友逆向改造PS5主机跑本地AI,成功运行Qwen 3.8 27B大模型
- ▸量化到2bit后推理速度约20Token/s,可用但不算快
- ▸PS5 CPU为Zen2架构,GPU仅10.3TFLOPS,算力规格早已过时
- ▸PS5采用256bit GDDR6统一内存,带宽高达448GB/s
- ▸448GB/s领先M4 Max(410GB/s)、M5 Pro(307GB/s)和DGX Spark(273GB/s)
🔥犀利点评
这事儿最大的价值不是PS5能跑AI,而是把行业的遮羞布扯了下来:本地推理的瓶颈从来是带宽不是算力。PS5六年前的448GB/s至今吊打一票AI PC,说明厂商卖高价AI主机时堆的是CPU、NPU算力,却舍不得给带宽。当然20Token/s还是2bit量化的成绩,实用价值有限,真要本地跑大模型,攒个大显存二手显卡仍比折腾主机靠谱。
📰 相关资讯(与本文相关的其他资讯)
本文由本站自动聚合,以下为原始来源:前往 驱动之家 阅读全文 →