10.1 LLM 基础
覆盖范围
- Tokenizer 与 BPE 子词切分、Embedding 与向量语义、Transformer 推理全过程与 KV Cache
- 模型选型:能力、延迟、成本、合规与降级备选
- 上下文窗口与截断策略、采样参数(temperature / top-p / top-k / 重复惩罚)
- 幻觉成因与分层缓解、流式输出的工程代价与故障清单
子主题
| 编号 | 主题 | 覆盖范围 |
|---|---|---|
| 10.1.1 | 模型与推理基础 | 4 个子域 80 题:Tokenizer 与 BPE、Embedding 与向量语义、Transformer 推理与 KV Cache、模型选型与能力边界 |
| 10.1.2 | 上下文与输出控制 | 4 个子域 80 题:上下文窗口与截断策略、采样参数与输出温度、幻觉成因与缓解、流式输出工程代价 |
面试题索引
| 编号 | 题目 | 难度 | 频率 | 所在页面 |
|---|---|---|---|---|
| 10.1.1.1-003 | 什么是 BPE(字节对编码),解决什么问题? | 基础 | ★★★★★ | Tokenizer 与 BPE |
| 10.1.1.2-004 | 向量相似度常用什么度量? | 进阶 | ★★★★★ | Embedding 与向量语义 |
| 10.1.1.3-005 | 为什么推理时需要 KV Cache? | 进阶 | ★★★★★ | Transformer 推理与 KV Cache |
| 10.1.1.3-007 | KV Cache 显存如何估算? | 高级 | ★★★★ | Transformer 推理与 KV Cache |
| 10.1.1.4-002 | 闭源 API 与自托管开源模型如何取舍? | 进阶 | ★★★★★ | 模型选型与能力边界 |
| 10.1.1.4-005 | 成本口径:输入、输出、缓存命中分别怎么计费? | 进阶 | ★★★★ | 模型选型与能力边界 |
| 10.1.2.1-001 | 什么是上下文窗口,由什么构成? | 基础 | ★★★★★ | 上下文窗口与截断策略 |
| 10.1.2.1-004 | 截断策略:从头丢、从尾丢、滑窗分别适用什么? | 进阶 | ★★★★ | 上下文窗口与截断策略 |
| 10.1.2.2-002 | temperature 如何影响 logits 与输出确定性? | 基础 | ★★★★★ | 采样参数与输出温度 |
| 10.1.2.2-003 | top-p(nucleus sampling)如何裁剪候选? | 进阶 | ★★★★ | 采样参数与输出温度 |
| 10.1.2.3-002 | 幻觉主要成因有哪些? | 进阶 | ★★★★★ | 幻觉成因与缓解 |
| 10.1.2.3-008 | RAG 如何用检索证据约束输出? | 进阶 | ★★★★★ | 幻觉成因与缓解 |
| 10.1.2.4-001 | 什么是流式输出(SSE),与一次性返回有什么区别? | 基础 | ★★★★★ | 流式输出工程代价 |
| 10.1.2.4-006 | 流中途失败或断连怎么处理? | 进阶 | ★★★★ | 流式输出工程代价 |
当前状态
- 10.1.1 已完成 4 个子域、80 题;10.1.2 已完成 4 个子域、80 题,合计 160 题,全部为可学习型详解。
- 页面结构:知识域首页 + 子主题页 + 分册 TOC 三层登记。
- 模型能力、价格、上下文长度等会随版本变化的数字,均标注以官方文档与当前版本为准,未编造具体数值。