英伟达高管称Groq机架已全面量产 AI推理“低延迟”大战升温

📋总体概括

英伟达高管宣布Groq 3 LPX机架已全面量产，将与Vera CPU和Rubin GPU一同部署于Nebius数据中心，年内上线。该技术源于去年200亿美元收购Groq的交易。低延迟推理可让AI智能体快速响应，云服务商可借此对延迟敏感客户提供高价token套餐，AI推理低延迟竞争加剧。