LiquidAI发布LFM2.5-24B-A2B推理模型
LiquidAI/LFM2.5-24B-A2B
端侧推理新标杆，用极小激活参数实现超越更大模型的Agent能力，性能数据详实，值得开发者关注部署方案。
Gguf's: https://huggingface.co/LiquidAI/LFM2.5-24B-A2B-GGUF
Gguf格式模型：https://huggingface.co/LiquidAI/LFM2.5-24B-A2B-GGUF
Free Demo: https://playground.liquid.ai
免费演示：https://playground.liquid.ai
"LFM2.5-24B-A2B is a 24B-parameter reasoning model with only 2B active parameters, built for fast, private agents on-device. It is the largest and final model in the LFM2.5 family, which now spans two orders of magnitude: from LFM2.5-230M to LFM2.5-24B-A2B.
"LFM2.5-24B-A2B 是一个拥有 240 亿参数但仅激活 20 亿参数的推理模型，专为在设备上快速、私密地运行智能体而构建。它是 LFM2.5 系列中最大且最终的模型，该系列现已跨越两个数量级：从 LFM2.5-230M 到 LFM2.5-24B-A2B。"
- Best-in-class agent: Competitive with Qwen3.6-35B-A3B, a model with ~50% more total and active parameters, on agentic and tool-use tasks, scoring 48.09 on LiveClaw versus 38.19.
- Reasoning at MoE speed: Always thinks before it answers. With only 2B active parameters per token, each reasoning token is cheap.
- Efficient inference: Runs up to 1.7× faster than comparable MoEs on-device, with 184 tok/s on an Apple M5 Max and up to 21K output tok/s on a single NVIDIA B300 GPU.
- 顶尖的智能体能力：在智能体和工具使用任务上，其表现可与 Qwen3.6-35B-A3B（一个总参数量和激活参数量均多约 50% 的模型）相媲美，在 LiveClaw 基准测试中得分为 48.09，而对比模型为 38.19。
- 以 MoE 的速度进行推理：总是先思考再回答。由于每个 token 仅激活 20 亿参数，因此每个推理 token 的成本都很低。
- 高效的推理性能：在设备上运行速度比同类 MoE 模型快多达 1.7 倍，在 Apple M5 Max 芯片上可达 184 tok/s，在单张 NVIDIA B300 GPU 上输出速度高达 21K tok/s。
LFM2.5-24B-A2B is a general-purpose text-only reasoning model with the following features:
LFM2.5-24B-A2B 是一个通用的纯文本推理模型，具有以下特性：
- Total parameters: 24.0B
- Active parameters: 2.45B
- Number of layers: 40 (30 double-gated short convolution blocks + 10 GQA)
- Experts: 64 per MoE block, top-4 routing
- Training budget: 36 trillion tokens
- Vocabulary size: 128,000
- Context length: 131,072 tokens
- Languages: English, Arabic, Chinese, French, German, Italian, Japanese, Korean, Portuguese, Spanish, Vietnamese, Thai, Indonesian, Hindi, Russian, Polish
- Generation parameters:
- temperature: 0.1
- top_k: 50
- repetition_penalty: 1.05"
- 总参数量：240 亿 (24.0B)
- 激活参数量：24.5 亿 (2.45B)
- 层数：40 层（30 个双门控短卷积块 + 10 个 GQA 层）
- 专家网络：每个 MoE 块包含 64 个专家，采用 top-4 路由机制
- 训练预算：36 万亿 tokens
- 词表大小：128,000
- 上下文长度：131,072 tokens
- 支持语言：英语、阿拉伯语、中文、法语、德语、意大利语、日语、韩语、葡萄牙语、西班牙语、越南语、泰语、印尼语、印地语、俄语、波兰语
- 生成参数：
- temperature: 0.1
- top_k: 50
- repetition_penalty: 1.05"
更进一步：量化金融体系
看懂新闻只是起点——沿量化金融路径，把它变成能交付的工程能力