产业观察🔥8.0
开发者将破解后的索尼 PS5 当作本地 AI 服务器:利用 GPU 加速运行 27B 参数 Qwen3.8-27B 模型,速度达 20.9 token/s
📋总体概括
开发者 abhi245y 在资深 AI 工程师 Mert Cobanov 的 PS5LM 项目基础上,开发了原生 GPU 应用 PS5LM Plus,让破解后的索尼 PS5 变成本地 AI 服务器。通过移植 Mesa 的 AMD RADV 驱动并借助 Vulkan 计算接口运行 llama.cpp,可用内存从约 6GB 提升至 11.4GB,成功以 GPU 加速运行 27B 参数的 Qwen3.8-27B 模型,速度达 20.9 token/s,而早期 CPU 方案每分钟仅约 1 个 token。PS5 的 448GB/s 内存带宽是关键优势。
⚡关键信息
- ▸开发者 abhi245y 推出 PS5LM Plus,让破解版 PS5 以 GPU 加速本地运行大语言模型
- ▸通过移植 Mesa 的 AMD RADV 驱动并用 Vulkan 接口运行 llama.cpp 实现原生 GPU 支持
- ▸可用内存从约 6GB 提升到 11.4GB,可运行高度量化的 Qwen3.8-27B 模型
- ▸27B 模型推理速度达 20.9 token/s,早期 CPU 方案每分钟仅约 1 个 token
- ▸PS5 的 448GB/s 内存带宽为本地推理提供了硬件基础
🔥犀利点评
这事的本质不是 PS5 有多强,而是主机的定价逻辑被破解者重新定义了:一台几千块、带 448GB/s 带宽和 16GB 统一内存的设备,硬是被 mesa 驱动移植榨成了入门推理机。20.9 token/s 跑 27B 模型,性价比碾压一堆同价位 AI 迷你主机。但别急着吹——破解门槛、驱动稳定性、散热寿命都是硬伤,这更像是极客炫技而非可用产品。真正值得芯片厂商警惕的是:统一内存大带宽架构在推理端的价值,被玩家用最野的方式证明了。
📰 相关资讯(与本文相关的其他资讯)
本文由本站自动聚合,以下为原始来源:前往 IT之家 阅读全文 →