LFM2.5-24B-A2B：2B 激活参数的本地 Agent 能否兼顾推理与工具调用？
先说结论
Hugging Face 在 2026 年 10 月 13 日发布的 LFM2.5-24B-A2B，核心卖点不是“24B 参数又多了一个模型”，而是它试图把推理、工具调用和本地运行放进同一条工程路线：总参数 240 亿，但每个 token 只激活约 20 亿参数；官方称它在 LiveClaw 上得到 48.09 分，高于对比模型的 38.19，同时在 Apple M5 Max 上达到 184 token/s。
我的判断是，这个模型更像“本地 Agent 的可认真评估候选”，还不是可以无条件替代云端旗舰模型的答案。它最适合低延迟、隐私敏感、可控制工具范围的任务；对于复杂规划、高风险动作和需要最强知识覆盖的工作，应该保留升级到更强模型或人工确认的路径。
发生了什么
主来源是 Hugging Face 官方博客《Run fast, private agents on-device with LFM2.5-24B-A2B》，发布日期为 2026 年 10 月 13 日，原始 URL：https://huggingface.co/blog/LiquidAI/lfm25-24b-a2b。
官方事实包括：LFM2.5-24B-A2B 是一个总参数约 240 亿、每 token 激活约 20 亿参数的混合专家推理模型；它面向本地 Agent，能够进行多步推理并调用工具。官方在 16 个覆盖工具使用、Agent 工作流、知识、指令遵循、数学和代码的基准上进行比较，并称该模型在 LiveClaw 上获得 48.09 分，对比的 Qwen3.6-35B-A3B 得分为 38.19。
官方还披露了推理性能：在 Apple M5 Max 上解码速度为 184 token/s，在 Ryzen AI Max+ 395 上为 114 token/s；在单张 NVIDIA B300 的高并发测试中，输出速度超过 2.1 万 token/s。模型当天支持 llama.cpp、MLX、vLLM、SGLang 和 ONNX 等推理生态，官方示例使用 Transformers 加载模型。
这些数字来自官方测试环境和官方选定的评测集合。它们证明了模型值得验证，但不等于任何电脑、任何量化方式和任何工具链都能得到同样结果。后文关于 Agent 架构、隐私和生产边界的内容，是我的工程判断，不是官方 SLA。
技术细节
1. 关键变化是“总容量”和“实际计算量”分离
LFM2.5-24B-A2B 使用混合专家架构。官方介绍显示，它包含 40 层，每个 MoE 模块有 64 个专家，每次路由选择其中 4 个；同时结合门控短卷积和分组查询注意力。对使用者来说，最重要的不是记住专家数量，而是理解这套设计在做什么：模型保留较大的参数容量，但每个 token 不必让全部参数参与计算，因此有机会在能力和本地速度之间取得更好的平衡。
这也解释了为什么“24B”不能直接等同于一个传统的 24B 稠密模型。内存占用、路由开销、量化方案、上下文长度和运行时实现都会影响体验。部署前应该分别测模型加载时间、常驻内存、首 token 延迟、持续解码速度，以及工具调用等待对端到端延迟的影响。
2. 它不是只会快答，而是显式加入推理阶段
与前代模型相比，LFM2.5-24B-A2B 把上下文窗口从 32K 扩展到 131K token，并把词表从约 6.5 万扩展到 12.8 万，以改善非拉丁文字的切分。官方还说明，它是一个 reasoning-only 模型，会在最终答案前进行显式推理，并在预训练、中期训练和后训练中加入工具调用与多轮轨迹。
后训练被拆成五个阶段，重点不是让模型只学会漂亮回答，而是让它在 Agent harness 中持续完成任务。官方给出的定位包括：理解指令、调用工具、处理多步流程，并在本地硬件上连续运行。对工程团队来说，这比单看通用问答分数更有参考价值，因为实际 Agent 的瓶颈经常出现在参数填充、工具选择、失败恢复和上下文管理，而不是第一轮文字生成。
3. 速度数字必须放回任务链路里看
Apple M5 Max 上的 184 token/s 很醒目，但一个 Agent 任务的耗时不只由解码速度决定。完整链路还包括读取上下文、工具请求、外部程序执行、结果回填、再次推理和最终验收。如果工具本身要等待几秒，模型从 120 token/s 提升到 184 token/s，对用户感知可能并不明显；如果任务完全在本地完成、工具返回很快，速度优势才更容易转化成实际体验。
同样，131K 上下文也不是“越长越好”。更大的窗口会带来更高的内存需求、更复杂的上下文筛选和更高的错误传播风险。Agent 不应把所有历史内容无差别塞回模型，而应根据任务状态保留必要证据、工具结果和未完成事项，明确丢弃无关内容。
4. 工具调用能力不等于工具权限
模型能够生成工具调用，只说明它具备一种交互能力；是否允许执行，仍然应该由外部程序决定。实际系统应为每个工具定义名称、参数 Schema、权限范围、超时、幂等键和返回状态。模型提出调用后，程序先验证参数和权限，再执行工具；执行完成后，还要检查真实状态，而不是只相信工具返回的一段文本。
本地运行会让隐私边界更容易控制，但不会自动解决安全问题。恶意内容仍可能诱导 Agent 读取不相关文件、扩大任务范围或重复执行动作。权限最小化、目录隔离、资源配额和可回滚状态，依然是确定性工程规则，不能交给模型自行决定。
对 Agent / 工程的影响
第一，本地模型值得放在“高频、低风险、隐私敏感”的任务层。比如本地知识库检索后的摘要、文档分类、代码库导航、离线批处理、工具参数草拟和个人设备上的自动化辅助。这些任务通常可以限制工具集合，也容易用合成样例和回放数据做验收。
第二，路由策略应该是分层的，而不是二选一。小型本地模型负责快速判断、简单执行和常见工具调用；当输入过长、问题超出已验证领域、连续两次工具失败、结果 Schema 不通过，或者动作影响较大时，升级到更强的模型或人工。这样，本地模型的价值不是“把云端完全删掉”，而是减少不必要的远程调用。
第三，评测要从模型分数扩展到任务完成。建议至少记录：工具选择准确率、参数 Schema 通过率、任务完成率、错误接受率、重复调用率、恢复成功率、P50/P95 端到端延迟、常驻内存、能耗和每个成功任务的成本。尤其要加入工具异常、权限拒绝、空结果、部分成功和结果过期等回放场景。
第四，隐私设计要利用本地运行的优势，但不能夸大它。数据不离开设备可以减少传输面，却不代表本地日志、缓存、模型上下文和工具输出天然安全。应只发送完成任务所需的最小内容，给原始文档、录音和图像设置删除期限，避免把完整输入写入 URL、分析日志或长期调试文件。
第五，跨设备部署要重视版本一致性。LFM2.5-24B-A2B 可以通过多个推理后端运行，而不同后端、量化方式和硬件可能产生不同延迟与输出行为。生产系统应记录模型版本、运行时、量化配置、工具 Schema 版本和结果状态；升级时用固定的脱敏回放集比较，不要只做一次人工试用。
我的判断
LFM2.5-24B-A2B 的真正机会，是把 Agent 的一部分能力从“必须联网调用大模型”变成“设备上就能完成的受控工作”。我会把它列入本地 Agent 评测清单，优先测试工具调用、长上下文裁剪和隐私敏感任务，不会因为 184 token/s 就直接交给它高影响权限。
如果你的任务有明确工具边界、可验证结果和可回滚状态，它可能带来更低延迟与更好的隐私控制；如果任务需要开放世界推理、复杂事实核验或不可逆动作，云端强模型与人工确认仍然不可替代。速度是入场券，可靠的任务闭环才是生产资格。
Q&A
Q1：来源、发布日期和原始 URL 是什么？
A：来源是 Hugging Face 官方博客《Run fast, private agents on-device with LFM2.5-24B-A2B》，发布日期为 2026 年 10 月 13 日，原始 URL：https://huggingface.co/blog/LiquidAI/lfm25-24b-a2b。文章介绍模型架构、训练路线、基准、推理速度和 Agent harness 接入方式。
Q2：24B 参数是否意味着本地运行一定很重？
A：不能只看总参数。该模型每个 token 约激活 2B 参数，但实际内存仍受权重精度、量化方式、上下文长度、运行时和缓存影响。应在目标设备上测加载时间、常驻内存和端到端延迟。
Q3：官方 184 token/s 能直接代表我的 Agent 速度吗？
A：不能。它是特定模型、后端、设备和测试条件下的解码结果。真实任务还包含上下文处理、工具执行、结果回填和多轮推理，应该用完整任务的 P50/P95 延迟验收。
Q4：怎样安全地接入工具？
A：先定义严格的参数 Schema、权限范围、超时和幂等键。模型只提出调用，确定性程序负责校验、执行和检查最终状态。删除、支付、权限变更和对外发送等动作必须增加人工确认或更强的规则闸门。
Q5：它适合哪些场景？
A：优先考虑本地摘要、分类、代码导航、离线批处理、低风险工具调用和隐私敏感的辅助工作。不适合未经评测就承担开放世界事实判断、高影响决策、不可逆动作或需要稳定云端 SLA 的任务。
来源
- Hugging Face，Run fast, private agents on-device with LFM2.5-24B-A2B，发布日期：2026-10-13，原始 URL：https://huggingface.co/blog/LiquidAI/lfm25-24b-a2b
- LFM2.5-24B-A2B 模型页，发布日期：2026-10，原始 URL：https://huggingface.co/LiquidAI/LFM2.5-24B-A2B
- Liquid AI Agent harness 指南，原始 URL：https://docs.liquid.ai/examples/agent-harnesses
本文区分官方事实与作者判断；基准分数、速度、内存和工具调用表现以官方资料及目标硬件复现为准。
隐私自检：未写入姓名、账号、用户输入、内部网络细节、凭据或会话标识
封面 seed：2026-10-14-lfm25-on-device-agent（唯一）
coverWidth/Height：1600 / 900
categories：ai_tech