罗罗编程学习记录
本页内容 展开查看

10.1.2 上下文与输出控制

所属:全栈开发面试题库 / 10 AI 应用开发:LLM 与 Agent / 10.1 LLM 基础

这个知识域解决什么问题

模型能接收多少内容、生成多确定的结果、为什么会编事实、流式返回在工程链路里要付出什么代价——这些是把模型接进业务时每天都要处理的控制问题。本知识域主线:上下文能装多少、装不下怎么截 → 采样参数如何调节输出确定性 → 幻觉从哪来、怎么分层缓解 → 流式输出的链路代价与故障处理。模型内部表示与推理过程见 10.1.1 模型与推理基础。

知识地图

上下文窗口与截断策略(1)
  → 采样参数:temperature / top-p / top-k / 重复惩罚(2)
    → 幻觉成因与分层缓解(3)
      → 流式输出的工程代价(4)

子主题

编号 子主题 核心内容 题数
10.1.2.1 上下文窗口与截断策略 窗口构成、超限行为、截断与压缩、历史裁剪、预算分配、lost-in-the-middle、上下文缓存 20
10.1.2.2 采样参数与输出温度 temperature、top-p、top-k、frequency/presence penalty、seed、stop sequences、任务参数配置 20
10.1.2.3 幻觉成因与缓解 幻觉类型与成因、RAG 证据约束、引用与工具校验、拒答策略、自我一致性、幻觉评测与分层防护 20
10.1.2.4 流式输出工程代价 SSE 链路、结构化拼接、中途失败与重试、网关缓冲、超时保活、取消释放、安全过滤与日志追踪 20

合计 80 题。 每题按「一句话结论 → 概念解释 → 原理流程 → 代码/图示 → 常见误区 → 追问(带答案)」组织;参数推荐区间以对应模型官方文档为准,不编造固定数值。

学习路径

先 1 弄清上下文预算与截断优先级,再 2 掌握采样参数对输出确定性的调节方式,然后 3 建立幻觉成因到缓解措施的分层认知,最后 4 把流式输出当作一条需要失败处理、背压与追踪的工程链路来设计。

自检

  • [ ] 能按系统提示、历史、检索片段、输出预留列出上下文预算并说明裁剪优先级
  • [ ] 能解释 temperature、top-p、top-k、重复惩罚各自作用与典型任务取向
  • [ ] 能列出至少四类幻觉成因与对应的缓解手段组合
  • [ ] 能画出 SSE 流式链路并指出中途失败、断连、取消与日志落盘的处理位置
  • [ ] 能区分自然结束与 max_tokens 截断,并说明截断后的兜底动作