Hermes Agent本地工具调用失效问题引发讨论

有开发者在Reddit上反馈，在使用本地AI Agent框架Hermes Agent时遇到了终端命令执行失效的问题。具体表现为：当命令Agent创建目录时，Agent回复已成功创建，但实际上本地并未生成任何目录。该开发者当时使用的是Qwen 2.5 9B模型，且Hermes日志中没有输出任何警告或错误信息。在排除了上下文窗口限制后，问题依然存在。这一问题直指本地小模型在Agent场景下的“工具调用（Tool Calling）”瓶颈。在Agent架构中，模型需要准确生成符合特定格式的工具调用指令，而较小体量的模型在逻辑推理和结构化输出上不够稳定，容易出现“幻觉”，即口头确认执行但实际未触发底层API。这提示开发者，在构建本地Agent时，基座模型的工具调用能力至关重要，通常需要更大参数规模的模型才能保证稳定运行。