10 AI 应用开发:LLM 与 Agent
所属:全栈开发面试题库 / 本分册
大模型应用开发,覆盖 LLM 基础、RAG、Agent 与工程化。
章节导航
| 编号 | 章节 | 覆盖范围 |
|---|---|---|
| 10.1 | LLM 基础 | 模型与推理基础(Tokenizer/BPE、Embedding、Transformer 推理与 KV Cache、模型选型)、上下文与输出控制(窗口截断、采样参数、幻觉缓解、流式工程代价) |
| 10.2 | Prompt 工程 | 提示设计与结构化输出(系统提示、Few-shot、CoT、JSON Schema 与函数调用、校验重试与模板版本化)、提示评测与注入防护(注入越狱防护、评测集回归、LLM-as-Judge 偏差控制、安全审计与红队) |
| 10.3 | RAG 检索增强 | 文档处理与切分(解析清洗、切分策略、元数据、语料治理)、检索与增强(Embedding 与向量库选型、混合检索与 rerank、Query 改写与上下文组装、GraphRAG 与多跳检索、RAG 评测与质量门禁) |
| 10.4 | Agent 架构 | Agent 循环与工具调用(ReAct 规划循环、Function Calling、工具设计与参数校验、多 Agent 编排)、协议与记忆(MCP 工具协议、A2A 通信、记忆分层与上下文管理、会话状态与长期记忆存储) |
| 10.5 | LLM 工程化 | 微调与对齐(SFT 数据构造、LoRA/QLoRA、DPO/RLHF 偏好对齐)、推理优化与部署(量化、KV Cache、连续批处理、推理框架与压测)、评估体系与离线评测(分层评测集、rubric、LLM-as-judge 偏差、版本回归门禁)、成本限流与多模型路由(token 成本、缓存、分级路由、降级限流)、安全合规与内容风控(输入输出过滤、注入防护、工具权限、PII 脱敏与审计) |
| 10.6 | AI 全栈场景题 | RAG 全链路落地、Agent 工程与工具调用、多模态与流式体验、可观测灰度与回归、业务场景设计与容量估算(需求到指标完整链路、QPS/token/成本估算口径、延迟预算与三角权衡、压测灰度验证) |
| 10.7 | 模型训练与微调 | Transformer 结构与注意力机制(训练视角)、预训练/SFT/指令微调、LoRA/QLoRA 参数高效微调、对齐(RLHF/DPO/PPO)、量化与显存估算(GPTQ/AWQ/GGUF、INT8/INT4) |
| 10.8 | 推理部署与本地化 | 推理引擎(vLLM/SGLang/TensorRT-LLM/Ollama/llama.cpp)、KV Cache 与 PagedAttention(调度视角)、批处理并发与吞吐延迟权衡、GPU 选型与显存规划、本地化部署与隐私合规 |
| 10.9 | Agent 框架与工具链 | LangChain 与 LangGraph、LlamaIndex 与检索型 Agent、多 Agent 框架(AutoGen/CrewAI)、Dify/Coze/n8n 低代码编排、编码 Agent 工程用法、MCP Server 开发与工具设计 |
| 10.10 | 多模态与 AIGC | 图像生成(SD/Flux、ControlNet、LoRA)、ComfyUI 工作流与节点编排、视频生成与编辑、语音 ASR/TTS 与音色克隆、OCR 与文档理解、多模态 RAG |
| 10.11 | 大模型 API 工程 | 主流 SDK 与统一封装(OpenAI/Anthropic/豆包/DeepSeek)、流式超时重试与并发控制、Token 计费与成本预算、多供应商路由与降级 |
| 10.12 | 评测与数据 | 评测集构建与标注、RAG 评测(RAGAS/召回率/忠实度)、合成数据与数据清洗、A/B 与线上回归 |
| 10.13 | AI 安全 | 提示注入与工具越权、数据泄露与 PII 处理、模型窃取与对抗样本、生成内容合规与风控 |
维护说明
- 本分册的章节、知识域与子主题页均在
toc.yml中登记,新增内容后同步更新目录。 - 10.1 至 10.6 按「章节首页 → 知识域首页 → 子主题页」三层结构组织,toc.yml 已展开到子主题页层。
- 10.7 至 10.13 按「章节首页 → 主题页」平铺结构组织,toc.yml 直接挂主题页。