Claude Code 第三方模型上下文问题
本讨论聚焦于开发者在使用 Anthropic 官方命令行 AI 编码工具 Claude Code 时遇到的上下文管理痛点。部分中国开发者尝试通过 API 兼容方案，将 Claude Code 的底层模型替换为国内大模型（如智谱 GLM），以降低使用成本。然而，在实际体验中，用户发现该工具在配合第三方模型时，无法像原生 Claude 3.5 Sonnet 那样高效利用 Prompt Caching（提示词缓存）或进行自动上下文压缩。这导致在长会话编码任务中，Token 消耗极快，且容易超出上下文窗口限制。此外，由于担心版本升级导致第三方接口兼容性失效，开发者往往不敢轻易更新工具。这一现象反映出，在 AI Coding 工具链中，如何针对非原生大模型优化上下文剪裁与缓存机制，是当前开发者本地化适配和降本增效面临的关键技术挑战。