Liquid AI发布RIPL：面向50毫秒以内LFM模型的实时推理引擎

📋总体概括

Liquid AI发布实时推理引擎RIPL，专为旗下LFM系列模型打造，目标是将端到端推理延迟压至50毫秒以下。官方数据显示，在单块NVIDIA B200 GPU上，LFM2.5-1.2B经RIPL运行，p95尾延迟比Qwen3.5-0.8B运行于vLLM低14.4至28.4倍。这一差距说明小模型+定制推理栈的路线可在实时交互场景显著超越通用框架，RIPL意在为LFM构建从模型到引擎的垂直优化闭环，抢占低延迟语音助手、机器人和边缘AI推理市场。