V2EX
如何让大模型掌握特定开发工具?
针对如何让大模型掌握特定开发工具(基于数百MB的PDF文档)并代替人工进行开发的问题,技术路线主要有以下选择与实践建议: 1. **RAG(检索增强生成)方案**:这是首选且成本最低的方案。通过构建本地知识库,将PDF文档切片、向量化并存储。利用大上下文模型(如Claude 3.5 Sonnet)配合精准检索,能够快速解决API查询和工具使用规范问题。 2. **Agent(智能体)架构**:仅靠文档阅读不够,需结合ReAct框架或MCP协议,为大模型提供运行环境、编译器反馈和工具调用接口,使其形成“阅读文档-编写代码-运行调试-报错修正”的闭环。 3. **微调(Fine-tuning)**:不建议直接用文档微调模型来“记住”知识,而应在RAG和Agent框架跑通后,收集高质量的“提示词-工具调用-代码输出”语料,对开源模型进行指令微调,以提升特定工具链的输出稳定性和格式规范。 该探讨对AI Coding和智能体开发者具有重要参考价值,强调了“RAG提供知识,Agent提供行动,微调优化体验”的落地路径。
获取每日 AI 情报与羊毛福利
加入 Telegram 频道 @ainews_Go,第一时间接收精选资讯推送。