10.1.2 上下文与输出控制
所属:全栈开发面试题库 / 10 AI 应用开发:LLM 与 Agent / 10.1 LLM 基础
这个知识域解决什么问题
模型能接收多少内容、生成多确定的结果、为什么会编事实、流式返回在工程链路里要付出什么代价——这些是把模型接进业务时每天都要处理的控制问题。本知识域主线:上下文能装多少、装不下怎么截 → 采样参数如何调节输出确定性 → 幻觉从哪来、怎么分层缓解 → 流式输出的链路代价与故障处理。模型内部表示与推理过程见 10.1.1 模型与推理基础。
知识地图
上下文窗口与截断策略(1)
→ 采样参数:temperature / top-p / top-k / 重复惩罚(2)
→ 幻觉成因与分层缓解(3)
→ 流式输出的工程代价(4)
子主题
| 编号 | 子主题 | 核心内容 | 题数 |
|---|---|---|---|
| 10.1.2.1 | 上下文窗口与截断策略 | 窗口构成、超限行为、截断与压缩、历史裁剪、预算分配、lost-in-the-middle、上下文缓存 | 20 |
| 10.1.2.2 | 采样参数与输出温度 | temperature、top-p、top-k、frequency/presence penalty、seed、stop sequences、任务参数配置 | 20 |
| 10.1.2.3 | 幻觉成因与缓解 | 幻觉类型与成因、RAG 证据约束、引用与工具校验、拒答策略、自我一致性、幻觉评测与分层防护 | 20 |
| 10.1.2.4 | 流式输出工程代价 | SSE 链路、结构化拼接、中途失败与重试、网关缓冲、超时保活、取消释放、安全过滤与日志追踪 | 20 |
合计 80 题。 每题按「一句话结论 → 概念解释 → 原理流程 → 代码/图示 → 常见误区 → 追问(带答案)」组织;参数推荐区间以对应模型官方文档为准,不编造固定数值。
学习路径
先 1 弄清上下文预算与截断优先级,再 2 掌握采样参数对输出确定性的调节方式,然后 3 建立幻觉成因到缓解措施的分层认知,最后 4 把流式输出当作一条需要失败处理、背压与追踪的工程链路来设计。
自检
- [ ] 能按系统提示、历史、检索片段、输出预留列出上下文预算并说明裁剪优先级
- [ ] 能解释 temperature、top-p、top-k、重复惩罚各自作用与典型任务取向
- [ ] 能列出至少四类幻觉成因与对应的缓解手段组合
- [ ] 能画出 SSE 流式链路并指出中途失败、断连、取消与日志落盘的处理位置
- [ ] 能区分自然结束与 max_tokens 截断,并说明截断后的兜底动作