其他
三星发布LPDDR5X-PIM加速端侧AI
三星在Hot Chips 2026首度公开LPDDR5X-PIM结构、规格与验证结果。以Llama 3.1 80亿参数模型为基准,处理时间5.4秒,较普通LPDDR5X的12.3秒快约2.3倍;令牌处理量81.3 TPS为现有27 TPS的三倍。该技术通过内存内运算降低数据搬运功耗,为端侧大模型在手机落地提供硬件基础,但量产与软件适配尚待解决。
始于 更新至 条相关内容
三星在Hot Chips 2026首度公开LPDDR5X-PIM结构、规格与验证结果。以Llama 3.1 80亿参数模型为基准,处理时间5.4秒,较普通LPDDR5X的12.3秒快约2.3倍;令牌处理量81.3 TPS为现有27 TPS的三倍。该技术通过内存内运算降低数据搬运功耗,为端侧大模型在手机落地提供硬件基础,但量产与软件适配尚待解决。