供应链
Astera Labs 推出 Leo X 智能内存控制器:将 KV Cache 从加速器卸载到外部内存
📋总体概括
Astera Labs 于9月15日在加州发布Leo智能内存控制器三条产品线:Leo 2 E、Leo 2 P与Leo X。前两者符合CXL 3.2规范,支持4个下游DDR4/DDR5内存控制器,Leo 2 E为PCIe Gen6单端口1×16配置,Leo 2 P支持2×8双端口以实现内存池化共享;Leo X则是面向AI加速器的网络架构控制器,与Scorpio交换芯片配合,通过专用内存层将KV Cache和智能体上下文从GPU卸载到外部内存,为AI推理的内存瓶颈提供新解法。
⚡关键信息
- ▸Astera Labs发布Leo 2 E、Leo 2 P、Leo X三系列智能内存控制器,扩充原有Leo产品线
- ▸Leo 2 E和Leo 2 P符合CXL 3.2规范,支持4个下游DDR4/DDR5内存控制器
- ▸Leo 2 E为PCIe Gen6 1×16单端口配置,Leo 2 P支持2×8双端口实现内存池化和共享
- ▸Leo X基于网络架构,与Scorpio交换芯片配套,可将KV Cache和智能体上下文从GPU卸载到外部专用内存层
- ▸Astera Labs称Leo X为GPU访问KV Cache提供更低延迟和更高带宽
🔥犀利点评
AI推理的钱正在从买GPU流向省GPU——KV Cache把HBM吃干抹净,Astera Labs精准卡位这个痛点,用外挂内存层给GPU松绑。但别急着欢呼: PCIe和CXL路线的延迟物理上追不过片上HBM,所谓卸载本质是用延迟换容量,适合长上下文批处理,未必讨好实时推理。真正的看点是与自家Scorpio交换芯片的捆绑打法,互连初创公司在向英伟达的护城河外围挖墙脚。
📰 相关资讯(与本文相关的其他资讯)
本文由本站自动聚合,以下为原始来源:前往 IT之家 阅读全文 →