获课：shanxueit.com/12548/

企业级AGI落地：智泊第23期的实战笔记

去年秋天，我参加了智泊第23期v6.0的AGI大模型应用开发课程。开课第一天，讲师的开场白是：“大模型不缺Demo，缺的是能在企业里跑通、跑稳、跑出价值的应用。”这句话贯穿了整整三个月的学习，也彻底改变了我对AI落地的理解——真正难的不是调用API，而是让它在复杂的业务环境里活下来。

场景选择：先问“值不值得”，再问“能不能做”

课程第一周没有打开任何IDE，所有人都在做一件事：选场景。我们被分到不同行业小组，每组带着一个真实的企业痛点入场。我所在的小组对接的是一家连锁零售企业，他们最大的痛点是门店每日的经营日报——区域经理要花两小时整理十几个系统的数据，然后人工撰写分析建议，等报告发到店长手里，黄金调整时间已经过了。

这个场景看起来非常适合大模型：有多源数据输入、有固定的报告模板、有明确的目标受众。但导师追问了几个问题直接把复杂度拉满：数据里涉及敏感销售信息，模型如何处理隐私？报告里如果出现错误建议，谁来承担责任？店长看不懂模型的“黑话”怎么办？

这些问题把我们拉回了现实。模型能力强不等于业务适配度高。最终我们花了三周把场景收窄到“生成门店补货建议”这一个具体动作，放弃了一开始“全自动经营分析”的宏大构想。范围缩小之后，反而能把每个环节做得扎实。

数据工程：80%的精力投入，20%的可见产出

进入开发阶段后，最大的感受是：大模型项目里的工作量分布和传统开发完全相反。传统开发写代码占大头，大模型项目里数据清洗、标注、评估占用了将近七成的时间，而调用模型的那几行代码反而是最简单的。

我们面临的第一个难题是企业内部数据结构极其混乱。CRM系统的字段命名是拼音缩写，ERP系统的时间格式是纯数字，POS系统的商品编码和ERP对不上。为了能让模型“读懂”这些数据，我们建立了一个统一语义层——把各个系统的原始数据先映射成一套标准化的业务概念表，再喂给模型。这套映射规则本身不含任何AI，但它决定了模型输出的质量天花板。

数据隐私是另一个硬骨头。企业的核心经营数据不允许出内网，但开源模型部署需要GPU资源，成本和维护都是挑战。最终的折中方案是：结构化数据做本地化处理，非结构化文本经脱敏后才调用云端模型。敏感字段全部替换为代号，且每个代号只在当次会话中有效。这种做法不完美，但在成本和安全之间找到了平衡。

RAG与知识库：让模型“说人话”

模型的通用能力很强，但面对企业特有的业务规则时，它就像一个刚到公司的新人，脑子里全是通用知识，偏偏不知道该公司的具体流程。我们引入了RAG，把企业的商品目录、补货手册、历史决策案例全部向量化存入知识库。

但问题来了——企业知识库的“噪音”比想象中多得多。历史报告里有大量过时的促销政策、已经下架的商品信息、甚至包含错误记录。直接把全部历史数据喂进去，模型会“学到”很多不该学的东西。我们不得不在知识入库前做了一层“可信度标记”，给每条知识打上时间戳、来源系统和审核状态。生成答案时优先采用高可信度来源。这个设计后来成了项目最受好评的部分——业务方第一次能清晰地知道模型的“依据”来自哪里。

工程化落地：稳定比聪明重要

课程后期，我们开始面向真实环境部署。这才发现，一个能跑通的Demo和一个能上线的系统之间，隔着一条叫做“工程化”的河。

首先是响应速度。门店店长希望在打开App三秒内看到补货建议，但大模型的推理往往需要五到十秒。我们做了一个简单的缓存策略：对于常规商品组合，每天凌晨预先生成好建议，店长看到的是“新鲜但非实时”的数据。实时补货建议只针对突发情况启用。这个小小的“降级”方案，让用户体验提升了一大截。

然后是错误处理。模型偶尔会输出明显离谱的建议——比如建议冬季囤积冰淇淋，或者给一家社区小店推荐大宗批发方案。我们加了一层“规则校验器”，在模型输出后自动跑一遍业务规则，不合理的结果会被拦截并触发二次生成。这条“安全带”看似笨拙，却极大地提升了系统的可信度。

最意外的是用户反馈渠道的设计。我们最初没有规划“对结果不满意”的按钮，上线后发现用户对错误建议无从表达。补了一个简单的“点赞/点踩”功能后，我们获得了大量真实反馈，每周迭代一次策略，模型的准确率在一个月内从72%提升到了89%。

组织协同：技术之外的关键变量

项目的最后阶段，我们意识到了一个比技术更棘手的问题——业务方不知道怎么“用”这个系统。我们觉得很好用的功能，门店店长觉得“看不懂”“不敢信”。于是额外花了两周时间制作操作指南和常见问题示例，并安排了一对一的线上培训。当第一个店长在群里说“这个建议帮我省了两千块库存成本”时，整个团队都在欢呼。

回顾智泊第23期的全过程，最深的体悟是：AGI落地不是把模型放到业务里，而是让业务生长在模型之上——调整流程、更新岗位职责、重新定义决策权的分配。技术是催化剂，但真正的反应物是组织和人。

结营那天，导师说了一句话：“大模型应用的终点不是‘替代人’，而是‘让人更像人’——从繁琐的数据整理中解放出来，去做更有创造性的判断。”这句话，我记在了笔记本的第一页。