Liquid AI 发布 LFM2.5-DSpark 草稿模型:推理最高提速 3.2 倍
Liquid AI 为 LFM2.5-1.2B-Instruct、LFM2.5-2.6B 和 LFM2.5-8B-A1B 发布 DSpark 投机解码草稿模型,每个约 300M 参数,在 H100 上平均提速 2.67 倍、M4 Max 上 2.27 倍,并把 LFM2.5-2.6B 的函数调用延迟平均降低 57%。
Liquid AI 为 LFM2.5-1.2B-Instruct、LFM2.5-2.6B 和 LFM2.5-8B-A1B 发布 DSpark 投机解码草稿模型,每个约 300M 参数,在 H100 上平均提速 2.67 倍、M4 Max 上 2.27 倍,并把 LFM2.5-2.6B 的函数调用延迟平均降低 57%。
Google DeepMind 发布实验性开放模型 DiffusionGemma,基于 Gemma 4 与 Gemini Diffusion 研究,用文本扩散同时生成整块 token,在专用 GPU 上最高提速 4 倍,单张 NVIDIA H100 超 1000 tokens/秒、RTX 5090 超 700 tokens/秒。
推荐理由:原文给出扩散文本生成的速度收益、硬件门槛与质量取舍,读者可据此判断它适合哪类本地推理场景。