10.5 LLM 工程化
所属:全栈开发面试题库 / 10 AI 应用开发:LLM 与 Agent
覆盖范围
- 模型适配与对齐:SFT 数据构造、LoRA/QLoRA、DPO/RLHF 偏好对齐、数据质量与遗忘守护
- 推理优化与部署:瓶颈分段、量化、KV Cache、连续批处理、推理框架与压测
- 评估体系与离线评测:分层评测集、任务指标、人工 rubric、LLM-as-judge 偏差、版本回归门禁
- 成本、限流与多模型路由:token 成本拆解、缓存、分级路由、降级链路、限流配额与成本监控
- 安全、合规与内容风控:输入输出过滤、提示注入防护、工具权限、PII 脱敏、留存审计与合规边界
子主题
| 编号 | 知识域 | 核心内容 | 题数 |
|---|---|---|---|
| 10.5.1 | LLM 工程化 | 微调与对齐、推理优化与部署、评估体系与离线评测、成本限流与多模型路由、安全合规与内容风控 | 90 |
高频题索引
| 编号 | 题目 | 难度 | 频率 | 所在页面 |
|---|---|---|---|---|
| 10.5.1.1-001 | 什么时候该微调,什么时候用 RAG 或 Prompt 就够了? | 中 | 高 | 10.5.1.1 微调与对齐 |
| 10.5.1.2-001 | 大模型推理的主要瓶颈是什么? | 中 | 高 | 10.5.1.2 推理优化与部署 |
| 10.5.1.3-001 | 为什么 LLM 应用需要离线评测体系? | 中 | 高 | 10.5.1.3 评估体系与离线评测 |
| 10.5.1.4-001 | LLM 应用的成本由哪些部分构成? | 中 | 高 | 10.5.1.4 成本、限流与多模型路由 |
| 10.5.1.5-003 | 什么是提示注入(prompt injection)? | 中高 | 高 | 10.5.1.5 安全、合规与内容风控 |
当前状态
- 10.5.1 知识域 5 个子页,合计 90 题。
- 模型能力、价格、上下文长度、量化位宽与合规口径以官方文档/当前版本和适用法规为准,本章节不编造固定数值。