电脑硬件🔥9.0
群联展示计算型SSD:内置NPU+64GB内存 硬盘本地运行AI模型
📋总体概括
群联在SC26大会上展示两款面向AI场景的企业级SSD。其中计算型SSD内置NPU和64GB内存,带宽130GB/s,可直接运行PyTorch、vLLM、OpenVINO、llama.cpp等AI框架,思路是把计算下沉到存储端,仅向主机返回结果,特定负载下可减少10至100倍数据传输量。另一款采用Mixed Media混合介质设计,将pSLC缓存与QLC闪存整合,由16通道主控管理,并分配独立命名空间,可减少对独立缓存盘的依赖,故障时缓存损失仅4%,远低于传统方案的25%。
⚡关键信息
- ▸群联在SC26展示计算型SSD,内置NPU和64GB内存,带宽达130GB/s
- ▸支持直接在硬盘上运行PyTorch、vLLM、OpenVINO和llama.cpp等AI推理框架
- ▸计算下沉设计使特定工作负载下数据传输量减少10至100倍
- ▸Mixed Media方案整合pSLC缓存与QLC闪存,由一颗16通道主控管理
- ▸24块SSD系统中单盘故障缓存损失仅4%,传统4块独立缓存盘方案可达25%
🔥犀利点评
群联这步棋本质上是把计算型存储从PPT推向了展台——硬盘里塞NPU和大内存,瞄准的正是AI推理中数据搬运的巨大开销。近存计算方向没错,但真正的考验是企业客户是否愿意为「硬盘会算数」买单,以及软件生态能否跟上。混合介质方案倒是更务实,用容量换耐久性的做法直击QLC软肋,供应链层面有想象力。
📰 相关资讯(与本文相关的其他资讯)
本文由本站自动聚合,以下为原始来源:前往 驱动之家 阅读全文 →