罗罗编程学习记录
本页内容 展开查看

10.1 LLM 基础

所属:全栈开发面试题库 / 10 AI 应用开发:LLM 与 Agent

覆盖范围

  • Tokenizer 与 BPE 子词切分、Embedding 与向量语义、Transformer 推理全过程与 KV Cache
  • 模型选型:能力、延迟、成本、合规与降级备选
  • 上下文窗口与截断策略、采样参数(temperature / top-p / top-k / 重复惩罚)
  • 幻觉成因与分层缓解、流式输出的工程代价与故障清单

子主题

编号 主题 覆盖范围
10.1.1 模型与推理基础 4 个子域 80 题:Tokenizer 与 BPE、Embedding 与向量语义、Transformer 推理与 KV Cache、模型选型与能力边界
10.1.2 上下文与输出控制 4 个子域 80 题:上下文窗口与截断策略、采样参数与输出温度、幻觉成因与缓解、流式输出工程代价

面试题索引

编号 题目 难度 频率 所在页面
10.1.1.1-003 什么是 BPE(字节对编码),解决什么问题? 基础 ★★★★★ Tokenizer 与 BPE
10.1.1.2-004 向量相似度常用什么度量? 进阶 ★★★★★ Embedding 与向量语义
10.1.1.3-005 为什么推理时需要 KV Cache? 进阶 ★★★★★ Transformer 推理与 KV Cache
10.1.1.3-007 KV Cache 显存如何估算? 高级 ★★★★ Transformer 推理与 KV Cache
10.1.1.4-002 闭源 API 与自托管开源模型如何取舍? 进阶 ★★★★★ 模型选型与能力边界
10.1.1.4-005 成本口径:输入、输出、缓存命中分别怎么计费? 进阶 ★★★★ 模型选型与能力边界
10.1.2.1-001 什么是上下文窗口,由什么构成? 基础 ★★★★★ 上下文窗口与截断策略
10.1.2.1-004 截断策略:从头丢、从尾丢、滑窗分别适用什么? 进阶 ★★★★ 上下文窗口与截断策略
10.1.2.2-002 temperature 如何影响 logits 与输出确定性? 基础 ★★★★★ 采样参数与输出温度
10.1.2.2-003 top-p(nucleus sampling)如何裁剪候选? 进阶 ★★★★ 采样参数与输出温度
10.1.2.3-002 幻觉主要成因有哪些? 进阶 ★★★★★ 幻觉成因与缓解
10.1.2.3-008 RAG 如何用检索证据约束输出? 进阶 ★★★★★ 幻觉成因与缓解
10.1.2.4-001 什么是流式输出(SSE),与一次性返回有什么区别? 基础 ★★★★★ 流式输出工程代价
10.1.2.4-006 流中途失败或断连怎么处理? 进阶 ★★★★ 流式输出工程代价

当前状态

  • 10.1.1 已完成 4 个子域、80 题;10.1.2 已完成 4 个子域、80 题,合计 160 题,全部为可学习型详解。
  • 页面结构:知识域首页 + 子主题页 + 分册 TOC 三层登记。
  • 模型能力、价格、上下文长度等会随版本变化的数字,均标注以官方文档与当前版本为准,未编造具体数值。