其他
三星发布LPDDR5X-PIM,端侧AI推理提速2.3倍
三星在Hot Chips 2026展示LPDDR5X-PIM内存。基于Llama 3.1 80亿参数模型测试,处理时间从普通LPDDR5X的12.3秒降至5.4秒,吞吐从27 TPS提升至81.3 TPS,速度提升约2.3倍,吞吐达3倍。该技术将计算单元集成进内存,瞄准手机、平板等端侧AI设备,旨在破解数据搬运瓶颈。
始于 更新至 条相关内容
三星在Hot Chips 2026展示LPDDR5X-PIM内存。基于Llama 3.1 80亿参数模型测试,处理时间从普通LPDDR5X的12.3秒降至5.4秒,吞吐从27 TPS提升至81.3 TPS,速度提升约2.3倍,吞吐达3倍。该技术将计算单元集成进内存,瞄准手机、平板等端侧AI设备,旨在破解数据搬运瓶颈。