其他
三星展示LPDDR5X-PIM,端侧AI提速2.3倍
三星在Hot Chips 2026首次公开LPDDR5X-PIM结构及验证结果。以Meta Llama 3.1 80亿参数模型测试,PIM处理时间5.4秒,较普通LPDDR5X的12.3秒快约2.3倍;每秒令牌处理量达81.3 TPS,是现有产品27 TPS的三倍。该技术将运算单元植入内存,减少数据搬运,为端侧AI提供硬件基础,但量产和软件适配尚未成熟。
始于 更新至 条相关内容
三星在Hot Chips 2026首次公开LPDDR5X-PIM结构及验证结果。以Meta Llama 3.1 80亿参数模型测试,PIM处理时间5.4秒,较普通LPDDR5X的12.3秒快约2.3倍;每秒令牌处理量达81.3 TPS,是现有产品27 TPS的三倍。该技术将运算单元植入内存,减少数据搬运,为端侧AI提供硬件基础,但量产和软件适配尚未成熟。