其他
三星在Hot Chips 2026展示LPDDR5X-PIM内存计算技术
三星在斯坦福大学Hot Chips 2026上首次公开LPDDR5X-PIM的结构与验证结果。基于Meta Llama 3.1 80亿参数模型测试,LPDDR5X-PIM处理时间为5.4秒,比普通LPDDR5X的12.3秒快约2.3倍,每秒令牌处理量达81.3 TPS,是现有产品的3倍。该技术将运算单元嵌入内存,降低数据搬运功耗,为端侧AI提供新的硬件基础。
始于 更新至 条相关内容
三星在斯坦福大学Hot Chips 2026上首次公开LPDDR5X-PIM的结构与验证结果。基于Meta Llama 3.1 80亿参数模型测试,LPDDR5X-PIM处理时间为5.4秒,比普通LPDDR5X的12.3秒快约2.3倍,每秒令牌处理量达81.3 TPS,是现有产品的3倍。该技术将运算单元嵌入内存,降低数据搬运功耗,为端侧AI提供新的硬件基础。