资源站：xingkeit.top/17542/

全链路复盘：黑马天机学堂从微服务底座到AI智能体搭建全过程

一个在线教育平台的技术进化史，也是我们团队从“搬砖”到“造轮子”的蜕变实录

一、起点：为什么一个教育平台要动微服务

黑马天机学堂最初是一套单体Spring Boot应用，学生、讲师、课程、订单、题库全挤在一个工程里。前两年业务简单，部署一次半小时，大家还能忍。转折点在去年——同时在线人数突破8000后，频繁出现“一人看视频，全站卡顿”的现象。监控图上，JVM内存飙高、GC停顿频繁、数据库连接池被打满。更可怕的是，每次发版都要整站停机，凌晨两点上线成了团队常态。

我们不是没有犹豫过拆微服务。都知道拆了之后运维复杂度会指数级上升，但不拆的话，业务增长的天花板已经肉眼可见。最终CTO拍板：按业务边界拆成六个核心域——用户认证、课程内容、订单支付、题库测评、消息通知、数据统计。每个域独立部署、独立数据库、独立团队负责。

现在回头看，这一步走得艰难但正确。拆完三个月后，单个服务故障不再拖垮全站，发版从“全站停机两小时”变成“单个服务滚动更新五分钟”。

二、底座搭建：那些看不见但撑起一切的基础设施

微服务拆完之后，我们面临的第一个问题是：六个服务怎么找到彼此？ 我们用Nacos做服务注册与发现，每个服务启动时自动注册，调用方通过服务名而非IP地址发起请求。这一层看似简单，但上线初期踩了超时重试的坑——某个服务响应慢时，调用方疯狂重试，直接把下游压垮。后来加了熔断降级（Sentinel）和超时兜底，才算稳下来。

第二个问题是配置管理。以前配置写在application.yml里，改个数据库密码要重新打包。我们统一接了配置中心，所有环境的配置集中管理，开发、测试、生产各自隔离，改配置实时生效不用重启。

第三个也是最重要的——网关层。所有外部请求先经过网关（Gateway），由它做路由转发、鉴权校验、限流控制。网关就像大楼的保安，拦住非法请求，放行合法流量。我们花了整整两周调网关的线程池参数，才在双十一大促期间顶住了峰值流量。

感悟：微服务底座不是“拆了就行”，服务发现、配置中心、网关、熔断、链路追踪这五件套缺一不可。少一个，后面都是债。

三、痛点爆发：人肉运维已经跟不上服务数量

服务从1个变成6个之后，团队的痛苦指数没有下降，反而转移了——每次上线要挨个服务打包、传包、重启、看日志，一套流程走完至少四十分钟。如果某个服务启动失败，还得回滚重来。

我们开始搭建自动化流水线。代码推送到GitLab触发构建，构建完成后推送到私有镜像仓库，再通过K8s滚动更新部署到测试环境。测试通过后，人工点一下“发布生产”按钮，流水线自动完成剩余所有步骤。

这套流水线跑通的那天，团队里最年长的后端大哥感叹了一句：“以前上线像搬家，现在像按电梯。”但新的问题随之而来——服务多了，日志散落在六个Pod里，查一个跨服务的报错要登录四五台机器。我们上了ELK日志平台，把所有服务的日志统一收集到Elasticsearch，用Kibana做可视化检索。再配合SkyWalking做链路追踪，一个请求经过哪些服务、每段耗时多少，一目了然。

四、转折：AI来了，我们决定自己造个“智能体”

今年年初，团队开始讨论一个大胆的设想：能不能把AI能力嵌入到天机学堂的学习流程里，而不只是做个“AI问答”的噱头功能？

我们最终定位了一个真实场景——智能学习助手。学生学完一个章节后，AI可以自动生成个性化测验题；学生做题卡住时，AI不直接给答案，而是给提示和知识点引导；讲师上传视频后，AI自动生成字幕和章节摘要。

这就引出了我们架构上最大的升级：从“微服务”到“AI智能体”。我们搭建了一个独立的Agent服务，它不直接调用大模型，而是作为“大脑”协调多个工具：

• 检索工具：从课程知识库（向量数据库）中检索相关内容

• 题库工具：根据知识点生成或筛选题目

• 上下文工具：读取学生的学习历史和行为轨迹

• 对话管理工具：维护多轮对话的状态和记忆

Agent服务收到学生提问后，先调用检索工具找到相关讲义片段，再调用上下文工具判断学生的掌握程度，最后将组装好的Prompt发给大模型生成回答。整个过程对学生透明，感知到的就是“AI懂我”。

五、踩坑记录：AI智能体比微服务更难伺候

第一个坑：Prompt工程比代码更敏感。 同样的代码逻辑，换一个Prompt说法，输出质量天差地别。我们建了一个Prompt测试集，包含一百个典型学生提问，每次调整Prompt都要跑一遍测试集，确保“改进不退化”。

第二个坑：知识库更新滞后。 讲师更新了课程内容，但向量数据库里的旧知识还没同步，AI回答的是过期信息。我们设计了一套增量同步机制——课程内容变更时，自动触发向量库的增量更新，确保AI永远基于最新知识作答。

第三个坑：成本失控。 每个学生提问都调用大模型，一个月下来费用惊人。我们做了两层优化：一是缓存——相同问题直接返回历史答案不走模型；二是路由——简单问题用小模型，复杂问题才用大模型。成本下降了百分之六十，而学生几乎没有感知。

六、效果与反思：这一年我们做对了什么

天机学堂从微服务底座到AI智能体，前后历时十个月。上线后，智能学习助手覆盖了百分之七十的活跃学员，平均每三次提问就能解决一个困惑，讲师人工答疑的工作量减少了近一半。

但比数据更让我感慨的是团队的变化——一年前我们还在为“怎么部署不宕机”头疼，现在已经在讨论“怎么让AI更懂学生”。技术演进从来不是线性前进，微服务给了我们抗风险的能力，AI给了我们增值的空间。

最后想说一句给同行的话：不要等“准备好了”再动手。 我们拆微服务的时候，容器编排不熟；上AI的时候，大模型经验为零。但技术就是在解决问题中学会的，先搭一个能跑的最小版本，再在真实流量里一点点打磨。底座稳了，智能体才有站上去的底气。