06 AI Agent
本篇面向 AI 应用开发与 Agent 工程师方向,覆盖从 LLM 基础认知、Prompt 工程、工具调用与 MCP 协议、Agent 架构与编排、RAG 检索增强,到工程化框架、安全合规、评测体系与生产落地的完整链路。需要先明确定位:这条路线的产出是「能交付的 AI 应用」,即调用模型能力、编排工具与数据、把结果稳定地送到用户面前;模型训练、预训练与大规模微调不是本路线的必需项,了解原理边界即可。
本篇目录
| 编号 | 章节 |
|---|---|
| 06.1 | 阶段 0:环境、语言基础与第一次模型调用 |
| 06.2 | 阶段 1:LLM 基础与输出控制 |
| 06.3 | 阶段 2:Prompt 工程与结构化输出 |
| 06.4 | 阶段 3:工具调用与 MCP 协议 |
| 06.5 | 阶段 4:RAG 检索增强 |
| 06.6 | 阶段 5:Agent 架构与编排 |
| 06.7 | 阶段 6:工程化框架与服务化 |
| 06.8 | 阶段 7:安全、评测体系与生产落地 |
| 06.9 | 阶段 8:进阶方向(可选) |
| 06.10 | 知识点全清单 |
| 06.11 | 术语表 |
| 06.12 | 官方文档与权威资料索引 |
| 06.13 | 实战项目阶梯 |
| 06.14 | 与本项目题库的对照 |
| 06.15 | 常见误区与避坑 |
| 06.16 | 自测清单 |
1. 适用人群与先修要求
1.1 岗位现实与定位
AI 应用开发岗位的日常工作是:接入大模型 API 或自托管推理服务,设计 Prompt 与结构化输出,接入检索、工具、记忆与编排框架,把应用做成可鉴权、可观测、可评测、可灰度发布的线上服务。招聘要求中出现频率最高的组合是 Python 后端 + LLM SDK + RAG + Agent 编排 + 向量库;Java、Go、Node.js 后端转 AI 方向时,工程化、接口设计与部署运维能力可以直接复用,需要补的是模型调用范式、Prompt 设计与评测方法。
前置通用基础:会一门后端语言(Python 优先,其他语言亦可),理解 HTTP 请求与响应、JSON 数据格式、数据库基本操作与 CRUD;有基本的提示词使用经验(在聊天界面里用过模型并能描述任务);了解 Git 与命令行操作。不需要先学深度学习、数学推导或 Transformer 论文,先用 API 跑通完整流程,再按需要回头补原理。
1.2 三类起点对照
| 人群 | 起点 | 先补什么 | 全职周期(每天 4–6 小时) | 在职周期(每天 2 小时) |
|---|---|---|---|---|
| 零基础转岗 | 不了解后端,仅具备基础电脑操作能力 | 先补 Python 基础语法、HTTP 与 JSON、数据库基本操作,再从阶段 0 环境与模型调用起步 | 3.5–4.5 个月到可上岗水平 | 6–8 个月 |
| 有其他语言基础 | 已掌握 Java、Go、Node.js、PHP 等任一后端语言 | 直接进入阶段 0,重点补 Python 生态与 LLM 调用范式;后端工程、接口与部署经验可直接迁移 | 2–3 个月 | 4–6 个月 |
| 已工作补短板 | 已调过模型 API,但 RAG、Agent 编排、评测或安全存在缺口 | 按《知识点全清单》定位薄弱模块,从对应阶段切入,优先补评测体系、上下文管理与生产化工程 | 按缺口大小 1–2.5 个月 | 按缺口大小 2–4 个月 |
周期只含学习与练习时间,不含找工作;阶段之间存在依赖,前一阶段验收不通过不要提前进入下一阶段。
2. 技术全景与搭配关系
一个 AI 应用从用户请求到最终回答,链路通常包含:接入层(网关、鉴权、限流)、应用服务(编排逻辑、业务规则)、模型层(云端模型 API 或自托管推理服务)、检索层(向量库、关键词检索、重排)、工具层(外部 API、数据库查询、代码执行沙箱)、记忆与缓存层(会话历史、长期记忆、语义缓存)、可观测与评测层(trace、数据集、打分)、成本控制层(模型分级、缓存计费、用量统计)。下表列出当前出现频率最高的形态组合、适用场景、搭配原因与替代方案。
| 组合 | 构成 | 适用场景 | 为什么这么搭 | 替代方案 |
|---|---|---|---|---|
| 纯 API 调用 | 后端服务 + 模型 API + 会话历史存储 | 单轮问答、文案生成、摘要改写、分类抽取 | 链路最短,开发与排错成本低;模型能力足够时不需要检索与工具 | 对数据隔离要求高时接自托管开源模型;多模态场景接入视觉或音频模型 |
| API + RAG | 模型 API + 文档解析切分 + embedding + 向量库 + 混合检索与重排 | 知识库问答、企业文档助手、客服知识检索 | 模型训练数据不含私有知识,检索把相关资料带进上下文,回答可引用来源并抑制幻觉 | 结构化数据可直接查数据库;知识量小且稳定时可用固定 Prompt 注入 |
| API + Agent 工具链 | 模型 API + Function Calling/MCP + 业务 API + 工具执行沙箱 + 轨迹日志 | 任务执行型助手、数据分析、工单流转、自动化操作 | 模型负责决策与调用,外部系统负责执行;工具把模型能力延伸到实时数据与动作 | 流程固定、分支明确的场景可用工作流编排替代自主 Agent |
| 多智能体编排 | 主 Agent + 多个 subagent + 编排框架 + 共享上下文与状态存储 | 复杂长任务、研究报告、多角色协作流程 | 按角色拆分职责,主 Agent 调度与汇总,避免单个 Agent 上下文与工具列表过载 | 任务链路简单时用单 Agent 加工具集即可,不要为概念引入多智能体 |
| 本地小模型 + 云端大模型兜底 | 本地推理服务(小模型)+ 云端大模型 + 模型路由 | 敏感数据不出内网、高频简单任务走本地、复杂任务上云 | 敏感数据在本地处理,成本与延迟按任务分级;复杂请求兜底给能力更强的云端模型 | 数据合规允许时直接全量走云端 API;高并发场景评估专用推理网关 |
| 平台化低代码 | Dify/Coze 等可视化平台 + 内置知识库与工作流 + 发布渠道 | 快速验证业务想法、内部工具、原型演示 | 拖拽式编排,无需写完整服务即可上线试用,迭代成本低 | 进入生产后受平台约束,复杂权限、定制工具与深度评测通常需要迁移到代码实现 |
选型的核心判断三条:数据能否出域、任务是「问答」还是「执行」、出了问题谁能定位。模型与框架版本迭代很快,文档只给方法论、协议名与稳定概念,具体模型名称、价格与能力边界以官方文档为准。