26M微型模型CPU函数调用击败Qwen

一项在4核CPU（无GPU）环境下的端侧工具调用评测显示，参数量仅26M的专用模型Needle（自Gemini蒸馏而来）在与通用小模型Qwen3-0.6B的对比中胜出。测试设计了5个难度层级的50个查询，涵盖隐式表达、歧义及不调用工具的陷阱等复杂场景。结果表明，比Qwen小23倍的Needle 26M不仅在准确率上击败对手，运行速度还快了4.4倍。这一实验证明，针对特定任务（如Tool Calling）进行深度蒸馏的超微型专家模型，在端侧CPU部署时能提供远超通用小模型的性价比，为端侧AI Agent的轻量化落地提供了重要参考。