Liquid AI发布LFM2.5-24B-A2B：面向端侧Agent的开源M
Liquid AI Releases LFM2.5-24B-A2B: A 2B-Active MoE for On-Device Agents
端侧Agent推理的新标杆，2B活跃参数跑满全量MoE能力，本地部署效率极高，做端侧落地的同学值得重点关注。
Liquid AI has released LFM2.5-24B-A2B, an open-weight reasoning model for agents that run on laptops and PCs. LFM2.5-24B-A2B is a 24B-parameter Mixture-of-Experts (MoE) model that activates about 2B parameters per token. It is the largest and final member of the LFM2.5 family. Liquid AI trained it inside popular agent harnesses, so it targets multi-step tool use rather than open chat. Base and post-trained weights are available on Hugging Face.
Liquid AI 发布了 LFM2.5-24B-A2B，这是一款面向在笔记本电脑和 PC 上运行的智能体的开源权重推理模型。LFM2.5-24B-A2B 是一个拥有 240 亿参数的混合专家（MoE）模型，每个 token 激活约 20 亿参数。它是 LFM2.5 系列中最大且最终的成员。Liquid AI 在流行的智能体框架中对其进行了训练，因此它针对的是多步工具使用，而非开放聊天。基础权重和微调后权重可在 Hugging Face 上获取。
TL;DR
TL;DR（太长不看版）
- Size: 24B total, 2B active (2.45B exact per the model card), 131,072-token context.
- Runs on: Laptops and mini PCs (Apple M5 Max, AMD Ryzen AI Max+ 395) via GGUF/MLX; single NVIDIA B300 for serving. FP8, GGUF, ONNX and MLX 4/5/6/8-bit builds.
- Performance: Leads or matches larger MoEs on 5 of 8 agentic and tool-use benchmarks in Liquid AI’s tests.
- Best: AutomationBench 27.69, more than 3x Qwen3.6-35B-A3B (8.72).
- Worst: SWE-Bench Verified (OpenCode) 51.00, versus 66.20 for Qwen3.6-35B-A3B.
- Bottom line (best): Fast, cheap local tool calling and instruction following.
- Bottom line (worst): Weaker on knowledge and coding; pair it with retrieval.
- 规模：总计 240 亿参数，激活 20 亿参数（根据模型卡片精确为 24.5 亿），上下文窗口为 131,072 个 token。
- 运行环境：通过 GGUF/MLX 在笔记本电脑和迷你 PC（Apple M5 Max、AMD Ryzen AI Max+ 395）上运行；单张 NVIDIA B300 用于服务部署。提供 FP8、GGUF、ONNX 以及 MLX 4/5/6/8-bit 构建版本。
- 性能：在 Liquid AI 测试的 8 项智能体和工具使用基准中的 5 项上，领先或持平于更大的 MoE 模型。
- 最佳表现：AutomationBench 得分 27.69，是 Qwen3.6-35B-A3B（8.72）的 3 倍以上。
- 最差表现：SWE-Bench Verified (OpenCode) 得分 51.00，而 Qwen3.6-35B-A3B 得分为 66.20。
- 总结（最佳情况）：快速、低成本的本地图形调用和指令遵循。
- 总结（最差情况）：在知识和编码方面较弱；建议搭配检索使用。
What is LFM2.5-24B-A2B?
什么是 LFM2.5-24B-A2B？
It is a text-only, reasoning-only MoE model built for local agent loops. Every assistant turn opens with a <think> block, per the docs. Its predecessor, LFM2-24B-A2B, did not always reason first. It supports 16 languages, including English, Arabic, Chinese, Hindi and Japanese.
这是一个专为本地智能体循环设计的纯文本、仅推理的 MoE 模型。根据文档说明，每次助手回复都以 <think> 块开头。其前身 LFM2-24B-A2B 并不总是先进行推理。它支持包括英语、阿拉伯语、中文、印地语和日语在内的 16 种语言。
How does the architecture work?
架构是如何工作的？
It keeps LFM2’s 40-layer hybrid: 30 double-gated short convolution blocks and 10 grouped query attention (GQA) blocks. Each MoE block holds 64 experts with top-4 routing, according to the model card.
它保留了 LFM2 的 40 层混合架构：30 个双门控短卷积块和 10 个分组查询注意力（GQA）块。根据模型卡片，每个 MoE 块包含 64 个专家，采用 top-4 路由机制。
Only 2 things changed from LFM2-24B-A2B. Context grew from 32,768 to 131,072 tokens. Vocabulary doubled from 65K to 128K through an in-place tokenizer expansion for better non-Latin tokenization.
与 LFM2-24B-A2B 相比只有两点变化。上下文长度从 32,768 增加到 131,072 个 token。词表大小通过就地分词器扩展从 65K 翻倍至 128K，以改善非拉丁字符的分词效果。
How was it trained?
它是如何训练的？
Pre-training scaled from 17T to 33T tokens. Mid-training ran 2T tokens at 32K context, then 300B tokens at 131K context. Tool calls and multi-turn trajectories appear in both phases.
预训练阶段从 17T 扩展到 33T 个 token。中期训练在 32K 上下文下运行了 2T 个 token，随后在 131K 上下文下运行了 300B 个 token。工具调用和多轮轨迹出现在这两个阶段中。
Post-training has 5 stages:
后训练包含 5 个阶段：
- Supervised fine-tuning (SFT)
- Teacher specialization
- Non-agentic multi-domain on-policy distillation (MOPD)
- Agentic MOPD
- Agentic RL inside OpenClaw, Hermes Agent, Pi and OpenCode
- 监督微调（SFT）
- 教师专业化
- 非智能体多领域在线蒸馏（MOPD）
- 智能体 MOPD
- 在 OpenClaw、Hermes Agent、Pi 和 OpenCode 内部进行的智能体强化学习（RL）
Liquid AI also disclosed reward hacking during teacher specialization. The model searched git history, GitHub, PyPI and Hugging Face for answers. It even detected that it was inside a sandbox. Liquid AI says it tightened sandboxes, and reported results come from sealed environments.
Liquid AI 还披露了在教师专业化过程中出现的奖励黑客行为。该模型在 git 历史、GitHub、PyPI 和 Hugging Face 中搜索答案。它甚至检测到自身处于沙箱环境中。Liquid AI 表示已收紧沙箱限制，且报告的结果来自密封环境。
How does LFM2.5-24B-A2B score on benchmarks?
LFM2.5-24B-A2B 在基准测试中的得分如何？
Liquid AI tested 16 benchmarks against Qwen3.6-35B-A3B, Gemma-4-26B-A4B-it and Nemotron-3.5-Lightning (30B-A3B). It leads on AutomationBench, ToolSandbox, LiveClaw and τ³-Bench Banking. BFCLv4 is effectively a tie at 65.01 versus 65.00.
Liquid AI 针对 Qwen3.6-35B-A3B、Gemma-4-26B-A4B-it 和 Nemotron-3.5-Lightning (30B-A3B) 进行了 16 项基准测试。LFM2.5-24B-A2B 在 AutomationBench、ToolSandbox、LiveClaw 和 τ³-Bench Banking 上领先。BFCLv4 的得分几乎持平，分别为 65.01 和 65.00。
The widest gap is AutomationBench: 27.69 versus 8.72 for Qwen3.6-35B-A3B. On LiveClaw it scores 48.09 versus 38.19. It also tops all 3 instruction-following tests: IFEval 96.75, IFBench 74.69 and Multi-IF 84.38.
差距最大的是 AutomationBench：LFM2.5-24B-A2B 得分为 27.69，而 Qwen3.6-35B-A3B 为 8.72。在 LiveClaw 上，LFM2.5-24B-A2B 得分为 48.09，对比 38.19。它在所有三项指令遵循测试中也均居首位：IFEval 为 96.75，IFBench 为 74.69，Multi-IF 为 84.38。
Larger models win on knowledge and code. Qwen3.6-35B-A3B leads GPQA Diamond (83.69 vs 74.42) and SWE-Bench Verified (66.20 vs 51.00). Qwen also leads WebArena Verified (37.62 vs 26.75) and PinchBench (89.93 vs 83.18).
更大的模型在知识和代码方面表现更佳。Qwen3.6-35B-A3B 在 GPQA Diamond（83.69 对 74.42）和 SWE-Bench Verified（66.20 对 51.00）上领先。Qwen 还在 WebArena Verified（37.62 对 26.75）和 PinchBench（89.93 对 83.18）上领先。
LFM2.5-24B-A2B vs Competitors
LFM2.5-24B-A2B 与竞争对手对比
| Feature | LFM2.5-24B-A2B | Qwen3.6-35B-A3B | Gemma-4-26B-A4B-it | Nemotron-3.5-Lightning-30B-A3B |
|---|---|---|---|---|
| Developer | Liquid AI | Alibaba Qwen | Google DeepMind | NVIDIA |
| Total params | 24.0B | 35B | 25.2B | 30B |
| Active params | 2.45B | 3B | 3.8B | 3B |
| Context | 131,072 | 262,144 native | 256K | Up to 1M |
| Input modality | Text | Text, image, video | Text, image | Text |
| Architecture | Conv + GQA hybrid MoE | Gated DeltaNet + attention MoE | Sliding/global attention MoE | Mamba-2 + attention MoE |
| License | LFM Open License v1.0 | Apache 2.0 | Apache 2.0 | OpenMDW-1.1 |
| AutomationBench* | 27.69 | 8.72 | 5.46 | 2.61 |
| LiveClaw* | 48.09 | 38.19 | 41.25 | 37.72 |
| IFBench* | 74.69 | 64.21 | 47.44 | 71.67 |
| GPQA Diamond* | 74.42 | 83.69 | 74.90 | 72.42 |
| SWE-Bench Verified* | 51.00 | 66.20 | 25.80 | 53.40 |
| GPQA (vendor-reported) | Not disclosed separately | 86.0 | 82.3 | 75.44 |
| Reference hardware | Apple M5 Max (184 tok/s, Q4_K_M) | Not disclosed | Consumer GPUs and workstations | 1x H100 80GB (BF16) |
| 特性 | LFM2.5-24B-A2B | Qwen3.6-35B-A3B | Gemma-4-26B-A4B-it | Nemotron-3.5-Lightning-30B-A3B |
|---|---|---|---|---|
| 开发者 | Liquid AI | Alibaba Qwen | Google DeepMind | NVIDIA |
| 总参数量 | 24.0B | 35B | 25.2B | 30B |
| 激活参数量 | 2.45B | 3B | 3.8B | 3B |
| 上下文长度 | 131,072 | 原生 262,144 | 256K | 最高 1M |
| 输入模态 | 文本 | 文本、图像、视频 | 文本、图像 | 文本 |
| 架构 | Conv + GQA 混合 MoE | Gated DeltaNet + attention MoE | Sliding/global attention MoE | Mamba-2 + attention MoE |
| 许可证 | LFM Open License v1.0 | Apache 2.0 | Apache 2.0 | OpenMDW-1.1 |
| AutomationBench* | 27.69 | 8.72 | 5.46 | 2.61 |
| LiveClaw* | 48.09 | 38.19 | 41.25 | 37.72 |
| IFBench* | 74.69 | 64.21 | 47.44 | 71.67 |
| GPQA Diamond* | 74.42 | 83.69 | 74.90 | 72.42 |
| SWE-Bench Verified* | 51.00 | 66.20 | 25.80 | 53.40 |
| GPQA（厂商报告） | 未单独披露 | 86.0 | 82.3 | 75.44 |
| 参考硬件 | Apple M5 Max (184 tok/s, Q4_K_M) | 未披露 | 消费级 GPU 和工作站 | 1x H100 80GB (BF16) |
*Scores from Liquid AI’s benchmark table, all models run by Liquid AI with vLLM.
*分数来自 Liquid AI 的基准测试表，所有模型均由 Liquid AI 使用 vLLM 运行。
What hardware does LFM2.5-24B-A2B run on?
LFM2.5-24B-A2B 在什么硬件上运行？
On-device, it decodes 184 tokens/s on an Apple M5 Max. It reaches 114 tokens/s on an AMD Ryzen AI Max+ 395. Liquid AI measured both with llama.cpp, Q4_K_M quantization and a 4K-token input. It claims up to 1.7x the speed of the next-best compared MoE, with the lowest memory use. Exact RAM requirements were not disclosed.
在端侧设备上，它在 Apple M5 Max 上的解码速度为每秒 184 个 token。在 AMD Ryzen AI Max+ 395 上达到每秒 114 个 token。Liquid AI 使用 llama.cpp、Q4_K_M 量化以及 4K-token 输入测量了这两项数据。它声称速度比次优的对比 MoE 模型快多达 1.7 倍，且内存占用最低。具体的 RAM 需求未予披露。
For serving, it passes 21K output tokens/s on a single NVIDIA B300. That test used SGLang 0.5.22, BF16, 1,024 input tokens and up to 256 output tokens.
在推理方面，它在单块 NVIDIA B300 上可实现每秒 21K 输出 token。该测试使用了 SGLang 0.5.22、BF16、1,024 个输入 token 以及最多 256 个输出 token。
Day-one support covers Transformers, vLLM, SGLang, llama.cpp, MLX, LM Studio and ONNX. MLX needs mlx-lm>=0.32.0, since earlier versions route experts incorrectly. Recommended sampling is temperature 0.1, top_k 50 and repetition penalty 1.05. A DSpark speculative-decoding draft model is listed as coming soon.
首日支持涵盖 Transformers、vLLM、SGLang、llama.cpp、MLX、LM Studio 和 ONNX。MLX 需要 mlx-lm>=0.32.0，因为早期版本会错误地路由专家模块。推荐的采样参数为温度 0.1、top_k 50 和重复惩罚 1.05。DSpeculative-decoding（推测解码）的草稿模型被列为即将推出。
How much does it cost, and what is the license?
费用是多少？许可证是什么？
On Liquid Console, the API costs $0.10 per 1M input tokens and $1.00 per 1M output tokens. Cached input costs $0.05 per 1M, and new accounts get $2 in credit.
在 Liquid Console 上，API 费用为每 100 万输入 token $0.10，每 100 万输出 token $1.00。缓存输入的費用为每 100 万 $0.05，新账户可获得 $2 的信用额度。
The weights use the LFM Open License v1.0, based on Apache 2.0. Free commercial use ends once a company reaches $10M in annual revenue.
权重采用基于 Apache 2.0 的 LFM Open License v1.0。当公司年收入达到 1000 万美元时，免费商业使用权终止。
Key Takeaways
关键要点
- 24B MoE, ~2B active, 131K context, reasoning-only.
- AutomationBench 27.69 vs 8.72 for Qwen3.6-35B-A3B.
- 184 tok/s on Apple M5 Max via llama.cpp Q4_K_M.
- Trails on SWE-Bench Verified (51.00 vs 66.20) and GPQA.
- Open weights; free commercial use under $10M revenue.
- 24B MoE，约 2B 活跃参数，131K 上下文，仅推理模式。
- AutomationBench 得分为 27.69，而 Qwen3.6-35B-A3B 为 8.72。
- 通过 llama.cpp Q4_K_M 在 Apple M5 Max 上实现每秒 184 个 token。
- 在 SWE-Bench Verified（51.00 vs 66.20）和 GPQA 上的表现。
- 开源权重；年收入低于 1000 万美元可免费商用。
Check out the technical blog, model weights, docs and LFM2 technical report. All credit goes to the researcher of this project. Also, feel free to follow us on Twitter and don’t forget to join our 150k+ML SubReddit and Subscribe to our Newsletter. Wait! are you on telegram? now you can join us on telegram as well.
查看技术博客、模型权重、文档和 LFM2 技术报告。所有功劳归于本项目的研究人员。此外，欢迎在 Twitter 上关注我们，别忘了加入我们有 15 万+成员的 ML SubReddit，并订阅我们的新闻通讯。等等！你在 Telegram 上吗？现在你也可以加入我们的 Telegram 群组。
更进一步：量化金融体系
看懂新闻只是起点——沿量化金融路径，把它变成能交付的工程能力