Liquid AI 推出咗專為自家 LFM（Liquid Foundation Model，小型語言模型）度身訂造嘅即時推理引擎 RIPL（Real-time Inference Pipeline），主打喺低延遲場景運行 sub-50ms 嘅 LFM。

根據 Liquid AI 公佈嘅數據，喺單張 NVIDIA B200 上，LFM2.5-1.2B 跑喺 RIPL，p95 延遲（95% 請求嘅回應時間上限）比 Qwen3.5-0.8B 跑喺 vLLM（大語言模型推理引擎）低 14.4 至 28.4 倍。

呢組數字出自 Liquid AI 自家，比較對象係另一家（阿里）嘅 Qwen3.5-0.8B，運行喺普遍採用嘅 vLLM 上。廠商自評數字，睇多幾版、核對測試條件先至有結論。

模姐驗嚇貨：p95 係尾延遲指標，最易受批次排程、顯存頻寬、context 長短影響，廠商自測數字要對住測試集、提示長度同併發數先有意義。14 倍至 28 倍嘅落差，大頭係小模型對小模型、自家引擎對通用引擎嘅組合結果，唔代表大模型場景同樣成立。

（本站未獨立實測，以上數據引自 Liquid AI 發布材料。）

模姐｜深度調教