罗罗编程学习记录
本页内容 展开查看

10.5 LLM 工程化

所属:全栈开发面试题库 / 10 AI 应用开发:LLM 与 Agent

覆盖范围

  • 模型适配与对齐:SFT 数据构造、LoRA/QLoRA、DPO/RLHF 偏好对齐、数据质量与遗忘守护
  • 推理优化与部署:瓶颈分段、量化、KV Cache、连续批处理、推理框架与压测
  • 评估体系与离线评测:分层评测集、任务指标、人工 rubric、LLM-as-judge 偏差、版本回归门禁
  • 成本、限流与多模型路由:token 成本拆解、缓存、分级路由、降级链路、限流配额与成本监控
  • 安全、合规与内容风控:输入输出过滤、提示注入防护、工具权限、PII 脱敏、留存审计与合规边界

子主题

编号 知识域 核心内容 题数
10.5.1 LLM 工程化 微调与对齐、推理优化与部署、评估体系与离线评测、成本限流与多模型路由、安全合规与内容风控 90

高频题索引

编号 题目 难度 频率 所在页面
10.5.1.1-001 什么时候该微调,什么时候用 RAG 或 Prompt 就够了? 中 高 10.5.1.1 微调与对齐
10.5.1.2-001 大模型推理的主要瓶颈是什么? 中 高 10.5.1.2 推理优化与部署
10.5.1.3-001 为什么 LLM 应用需要离线评测体系? 中 高 10.5.1.3 评估体系与离线评测
10.5.1.4-001 LLM 应用的成本由哪些部分构成? 中 高 10.5.1.4 成本、限流与多模型路由
10.5.1.5-003 什么是提示注入(prompt injection)? 中高 高 10.5.1.5 安全、合规与内容风控

当前状态

  • 10.5.1 知识域 5 个子页,合计 90 题。
  • 模型能力、价格、上下文长度、量化位宽与合规口径以官方文档/当前版本和适用法规为准,本章节不编造固定数值。