获课：shanxueit.com/12375/

2025年12月结课的这期大模型Agent开发实战班，30多位学员带着各自的业务场景而来，却在几乎相同的环节上反复跌倒。结课那天，讲师把大家两个月来在群里问得最多的问题整理成了一份“翻车高频榜”——没有高深理论，全是血泪教训。以下是这份内部复盘的核心内容，分享给正在或即将踏上Agent开发之路的你。

高频问题一：模型选型“唯参数论”

几乎每个项目启动时，学员都会问同一个问题：“用哪个模型最强？”然后径直选择当时榜单上参数最大、评分最高的模型。

翻车现场： 一个做客服摘要的项目，用超大参数模型跑了一周，API账单直接超预算三倍。而实际上，同样的任务用中等规模模型配合精心设计的提示词模板，效果差距不到5%，成本却只有十分之一。

避坑指南： 模型选型的第一原则是场景匹配。简单分类、摘要、信息提取用轻量模型足矣；复杂推理、代码生成、多步规划才上大参数。更务实的做法是设置路由层——简单请求走小模型，只有识别到复杂意图时才转大模型。记住：选模型不是选美，是选性价比。

高频问题二：提示词“过度工程化”

学员们普遍有“提示词焦虑”——总觉得写得不够长、不够细、不够专业。有人花了整整三天把一段系统提示词从10行扩充到300行，加入各种角色设定、格式约束、正反例、思维链模板。

翻车现场： 换了一个测试场景后，输出格式彻底乱套。原因是提示词里充斥了相互矛盾的约束条件，大模型在多个指令之间“左右互搏”，最终选择一个最不坏的结果。

避坑指南： 提示词遵循奥卡姆剃刀原则——如无必要，勿增实体。每次修改只解决一个具体问题，并建立最少50条的测试集来验证改动是否真的有效。那些“加了好像也没变差”的内容，果断删掉。提示词最好的状态，是你删掉一句后发现效果下降了的那一句——除此之外，全是噪音。

高频问题三：RAG检索的“分块陷阱”

知识库问答是几乎每个项目的标配，但“文档分块”这个看似简单的环节，却让大半数学员栽了跟头。

翻车现场： 最常见的是按固定字符数切分，结果一句话被拦腰截断，检索到的片段前言不搭后语。另一个高频问题是：知识库更新了，但向量索引没重建，大模型一直回答旧数据。

避坑指南： 分块要按语义边界——段落、表格、章节。同时保留10%~15%的上下文重叠，防止关键信息被切丢。知识库更新后必须重建向量索引，并为每份文档建立版本号，确保大模型引用时能追溯到具体版本。更进阶的建议是引入重排序（Rerank） 环节，在第一轮向量召回后对候选片段进行二次精排，能显著提升检索质量。

高频问题四：Agent陷入“死循环”

多步推理是Agent的核心能力，也是灾难的源头。学员反馈最多的现象是：Agent为了完成一个简单任务，调用工具超过30次，反复试错、反复报错，最终返回一个毫无价值的结果。

翻车现场： 一个“查询本月销售额并生成分析报告”的任务，Agent因为数据格式不匹配，在“调用工具→解析失败→换一种方式调用→再次失败”的循环里转了15圈，消耗了大量Token才被人工终止。

避坑指南： 给Agent设定最大步数硬上限（比如10步），超时强制终止并返回“任务未完成”状态。每个工具调用设置超时阈值（比如5秒），超时即降级。最关键的是在系统提示词中植入“退出意图”——告诉大模型“如果你发现无论如何都完不成任务，请直接告诉我做不到，而不是硬编答案”。

高频问题五：完全没有评估体系

这是被提及最频繁、也最致命的问题。绝大多数团队上线Agent的流程是：开发人员手工测五六个案例→感觉还行→直接发布。

翻车现场： 一个金融问答Agent上线后，对同一个问题的回答风格和准确性每天波动巨大，用户投诉不断。团队排查了两周才发现问题不是代码bug，而是底层模型更新后，之前的提示词策略已经不再适用——但因为没有评估体系，他们根本不知道“效果变差了”这件事。

避坑指南： 评估先行，开发在后。 花一天时间建立至少50个典型用例的黄金测试集，标注好预期结果。每次改动（模型版本、提示词、工具逻辑）后全量跑一遍，记录通过率。没有这把尺子，你永远不知道自己的“优化”是在前进还是后退。

高频问题六：成本失控和延迟

大模型按Token计费，调用一次可能涉及多次往返。有学员的项目上线首月，API费用高达数万元，远超标底。

翻车现场： 一个看似简单的“智能客服”功能，每次用户请求触发3~5次大模型调用（意图识别→实体抽取→生成回复→情感分析），单次请求成本接近1元。日活一千时，月成本就突破三万。

避坑指南： 建立多层缓存策略：精确缓存（完全相同的问题）、语义缓存（相似问题通过向量匹配命中）。所有非实时场景改用异步批处理，夜间集中调用降低成本。关键业务必须设计优雅降级路径——当大模型服务不可用时，切换到规则引擎或预设话术，而不是直接报错。

写在最后

结课总结时，老师说过一段话：“大模型Agent开发，没有任何一个坑是‘新’的——每一个都被无数前人踩过。区别只在于，有人踩完学会了修路，有人踩完换个坑继续踩。”

这份避坑清单的价值不在于让你避开所有问题——那不可能——而在于让你知道哪些问题值得提前准备，哪些问题不值得反复纠结。Agent开发的核心从来不是“不犯错”，而是“犯错后能快速定位、快速修复、快速迭代”。把这些高频问题记在心里，你的项目上线之路，至少能少熬二十个通宵。