10.3.2.1 Embedding 与向量库选型
所属:全栈开发面试题库 / 10 AI 应用开发:LLM 与 Agent / 10.3 RAG 检索增强 / 10.3.2 检索与增强
10.3.2.1-001 什么是 Embedding,它解决什么问题?
一句话结论
Embedding 把文本映射成固定维度的实数向量,让语义相近的文本在向量空间中距离更近;检索由此可以按语义相似度匹配,而不依赖字面关键词完全一致。
概念解释
- 向量:文本的数值表示。
- 语义相近:近义词、同义表述距离接近。
- 作用:支撑向量相似度检索与聚类。
原理流程
- 文本经嵌入模型编码。
- 输出固定维度向量。
- 按距离度量比较查询与块的相似度。
代码 / 图示
"怎么退款" ──→ 向量 v1
"如何申请退货" ──→ 向量 v2 (v1, v2 距离近)
常见误区
- 误区:向量能保留原文全部信息;正解:向量是压缩表示,细节与精确数值仍需原文回链。
- 误区:不同嵌入模型产出的向量可以混用;正解:模型不同空间不可直接比较,必须同模型生成。
追问
- Q:向量维度由什么决定? A:嵌入模型架构与配置,切换模型通常要全量重新向量化。
- Q:Embedding 和大语言模型是什么关系? A:嵌入模型负责表示,LLM 负责理解与生成,两者可独立选型。
10.3.2.1-002 查询与文档为什么要用同一嵌入模型?
一句话结论
向量空间由训练决定,查询和文档必须用同一模型、同一编码约定生成,相似度才有意义;跨模型向量不在同一空间,近邻结果不可靠,混用会显著降低召回。
概念解释
- 同空间:查询与块由同一模型映射。
- 非对称检索:查询与文档可能使用不同指令前缀,但模型必须一致。
- 一致性:入库与在线查询走同一嵌入配置。
原理流程
- 固定嵌入模型与版本。
- 文档入库与查询在线调用同一模型。
- 模型切换时全量重建向量。
代码 / 图示
文档块 ──嵌入模型 M──→ 入库向量
查询 ──嵌入模型 M──→ 查询向量 (必须同一 M)
常见误区
- 误区:文档用开源嵌入、在线查询用 API 嵌入也能配合;正解:不同模型空间不兼容。
- 误区:模型小版本升级不用重建;正解:向量行为变化后旧向量需回归评估,必要时重建。
追问
- Q:非对称检索的指令前缀是什么? A:部分模型对查询和文档使用不同 instruction,按模型约定分别设置。
- Q:怎么验证模型一致性? A:检查入库与查询调用的模型标识与配置版本一致。
10.3.2.1-003 常用相似度度量:余弦、内积、欧氏距离有什么区别?
一句话结论
余弦相似度看方向夹角,内积同时受方向与模长影响,欧氏距离看绝对位置;向量归一化后余弦与内积排序等价,选型要与索引类型和归一化约定匹配。
概念解释
- 余弦:方向相似度,取值受模长影响小。
- 内积:方向与模长共同作用。
- 欧氏:空间绝对距离,对向量尺度敏感。
原理流程
- 确认向量是否归一化。
- 按度量约定选择距离函数。
- 索引配置与度量保持一致。
代码 / 图示
归一化后: 余弦排序 ≈ 内积排序
未归一化: 内积受模长影响, 欧氏受尺度影响
常见误区
- 误区:三种度量可以随便换;正解:度量与归一化、索引参数要配套,混用排序会失真。
- 误区:内积越高一定越好;正解:未归一化时模长大会抬高内积,不代表语义更近。
追问
- Q:RAG 文本检索常用哪种? A:归一化向量上用余弦或等价内积较常见,具体按所选向量库约定。
- Q:向量什么时候需要归一化? A:用内积或余弦比较时,按模型输出约定处理,部分模型输出已归一化。
10.3.2.1-004 向量归一化是什么,什么时候必须做?
一句话结论
归一化把向量缩放到单位长度,消除模长差异,使比较只看方向;使用内积度量、且模型输出未保证单位向量时需要归一化;归一化方式与索引约定一致,避免一半归一化一半不归一化。
概念解释
- 单位向量:模长为 1。
- 目的:消除长度对相似度的干扰。
- 一致性:入库与查询向量同口径处理。
原理流程
- 检查模型输出是否已归一化。
- 需要时按 L2 归一化处理。
- 索引度量配置与之匹配。
代码 / 图示
v_norm = v / ||v||₂
入库向量与查询向量都按同一口径归一化
常见误区
- 误区:只归一化查询向量;正解:两侧口径不一致,距离比较仍然失真。
- 误区:归一化改变语义方向;正解:归一化只缩放长度,不改变向量方向。
追问
- Q:怎么知道模型输出是否已归一化? A:查模型文档说明或实测模长分布,能力以官方文档为准。
- Q:不归一化用余弦可以吗? A:余弦本身对模长不敏感,但要与索引度量配置一致。
10.3.2.1-005 嵌入维度越高越好吗?
一句话结论
维度越高表达能力通常越强,但存储、计算成本与噪声也上升,收益存在递减;应按语料规模、任务复杂度与存储预算选型,并用自有评测集对比不同维度的召回表现,而非盲目追高。
概念解释
- 维度:向量长度。
- 成本:存储、距离计算、索引内存随维度增长。
- 递减:高维度边际收益有限。
原理流程
- 列出候选模型与维度。
- 在标注集上对比召回与成本。
- 按预算与效果选平衡档位。
代码 / 图示
维度↑ → 表达力↑, 存储/计算↑, 边际收益递减
选型: 效果 - 成本 平衡, 自有样本实测
常见误区
- 误区:维度翻倍召回一定翻倍;正解:简单任务低维度可能已足够,高维度还引入冗余。
- 误区:向量库支持高维度就直接用最高档;正解:内存与延迟要随规模一起评估。
追问
- Q:维度能事后压缩吗? A:可通过量化或降维,但会损失精度,需评测验证。
- Q:多模型维度不同能放一个库吗? A:不能直接混放,需分集合或统一到同一模型。
10.3.2.1-006 嵌入模型选型看哪些维度?
一句话结论
考察语言覆盖(中文/多语)、领域适配、最大输入长度、维度与成本、检索类型(对称/非对称)、部署形态与许可;最终用业务标注集对比召回率,榜单只作初筛,不能替代自有验证。
概念解释
- 语言与领域:是否覆盖语料语言与专业术语。
- 工程:长度、维度、吞吐、部署。
- 验证:自有样本集实测召回。
原理流程
- 按语料与任务列候选。
- 初筛能力与成本门槛。
- 标注集对比后选型。
代码 / 图示
语言/领域 → 长度/维度/成本 → 部署许可 → 自有标注集召回对比
常见误区
- 误区:排行榜第一名直接用;正解:榜单任务与自有领域、格式、语言未必一致。
- 误区:只看生成质量不看检索效果;正解:嵌入模型的评价标准是召回,不是对话能力。
追问
- Q:领域术语匹配差怎么办? A:选领域适配模型,或用领域语料微调嵌入,微调成本另评估。
- Q:API 嵌入与自托管嵌入怎么选? A:结合数据合规、延迟、成本与运维能力综合评估。
10.3.2.1-007 对称检索与非对称检索有什么区别?
一句话结论
对称检索指查询与文档类型相近(句子找句子),非对称指查询短、文档长(问题找段落);部分嵌入模型为非对称检索提供查询/文档不同的指令前缀,选型与调用时要匹配检索类型。
概念解释
- 对称:两端文本形态相似。
- 非对称:两端长度与角色不同。
- 指令:模型约定的查询/文档前缀。
原理流程
- 判断检索两端形态。
- 按模型要求设置前缀。
- 评测非对称召回表现。
代码 / 图示
非对称: query(短问题) ── 指令q ── 向量
passage(长段落) ── 指令d ── 向量
常见误区
- 误区:查询和文档用同一段提示就对所有模型成立;正解:非对称模型可能要求不同前缀,按文档配置。
- 误区:句子检索场景套非对称前缀;正解:类型不匹配会拉低表示质量。
追问
- Q:前缀配置在哪维护? A:嵌入调用配置中与模型版本一起记录,切换模型时复核。
- Q:怎么判断模型是否区分两端? A:查模型文档的嵌入用法说明,以官方文档为准。
10.3.2.1-008 嵌入模型最大长度如何影响块切分?
一句话结论
块长度必须在嵌入模型最大输入之内,超长会被截断导致后半丢失;切分块大小按模型上限预留标题与前缀余量;模型长度上限变化时复核块配置,必要时重建。
概念解释
- 最大输入:模型可编码的 token 上限。
- 截断风险:超长内容被丢弃。
- 联动:块大小配置依赖模型长度。
原理流程
- 确认模型 token 上限。
- 块大小设定在上限内留余量。
- 超限块先切分再编码。
代码 / 图示
块 token < 最大输入 - 指令前缀/标题余量
超限块: 二次切分, 不直接截断编码
常见误区
- 误区:超长文本模型会自动压缩;正解:多数嵌入只截取前若干 token,后半不可检索。
- 误区:切换长上下文模型不用改块;正解:嵌入模型与生成模型长度口径要分别核对。
追问
- Q:表格长行超限怎么办? A:按行拆成多条记录,每条控制在长度内。
- Q:怎么发现截断问题? A:抽查长块编码后的召回,结合长度分布监控。
10.3.2.1-009 精确检索与 ANN 检索有什么区别?
一句话结论
精确检索遍历全部向量逐一计算,结果准确但数据量大时慢;近似最近邻(ANN)用索引结构牺牲少量召回换取大幅提速;生产规模下通常用 ANN,召回率通过索引参数调优保证。
概念解释
- 精确:全量计算,O(n) 复杂度。
- ANN:图/聚类/量化索引,近似检索。
- 权衡:速度与召回率。
原理流程
- 评估数据规模与延迟要求。
- 小规模可用精确检索。
- 大规模选 ANN 索引并调召回参数。
代码 / 图示
精确: 遍历所有向量算距离 → 准但慢
ANN: 索引结构定位候选 → 快, 召回率可调
常见误区
- 误区:ANN 结果就是最相近的全部;正解:近似结构可能漏掉少量近邻,需监控召回率。
- 误区:数据小也必须上复杂索引;正解:小规模精确检索更简单可靠。
追问
- Q:ANN 召回率怎么测? A:与精确检索结果对比命中比例,标注集上看 Recall@k。
- Q:什么时候回到精确检索? A:极小数据集或对召回完整性要求极高的场景。
10.3.2.1-010 HNSW、IVF、PQ 分别是什么,如何取舍?
一句话结论
HNSW 用分层图导航,召回高、查询快但内存占用大;IVF 先聚类再查倒排簇,可压缩、依赖 nprobe 调参;PQ 乘积量化压缩向量以省内存,精度有损失;按数据规模、内存预算、延迟与召回要求组合选择。
概念解释
- HNSW:图索引,高召回高内存。
- IVF:聚类倒排,可调探查簇数。
- PQ:量化压缩,省内存损精度。
原理流程
- 明确规模与资源约束。
- 选索引类型与参数。
- 标注集上对比召回与延迟。
代码 / 图示
HNSW: 图, 内存大, 召回高
IVF: 聚类倒排, nprobe 控制探查范围
PQ: 量化压缩, 内存小, 精度损失
常见误区
- 误区:索引类型一次选定不再调;正解:efSearch、nprobe、量化粒度都影响召回与性能。
- 误区:压缩越多越好;正解:PQ 过度压缩会明显损失语义区分度。
追问
- Q:HNSW 关键参数? A:图层数/连接数与搜索候选数,具体参数名与取值范围按所选库文档为准。
- Q:IVF 簇数怎么定? A:与数据规模和分布相关,需实测调优,不套固定值。
10.3.2.1-011 向量库选型对比哪些方面?
一句话结论
对比索引类型与召回性能、规模与扩展性、部署形态(托管/自托管/嵌入式)、元数据过滤能力、更新与删除支持、备份与运维、许可成本;用自有规模压测,而不是只看功能列表。
概念解释
- 检索能力:索引、度量、过滤。
- 工程:扩展、更新、备份、运维。
- 成本与合规:部署形态、许可、数据归属。
原理流程
- 列规模、延迟、过滤需求。
- 候选库功能与部署对比。
- 自有数据压测后选型。
代码 / 图示
索引/召回 · 元数据过滤 · 增删更新 · 扩展备份 · 部署/许可/合规
→ 自有数据压测(召回/延迟/内存)
常见误区
- 误区:选最热门的库就适配;正解:数据规模、过滤需求与运维能力不同,适配差异大。
- 误区:只看单机演示性能;正解:生产要看并发、更新延迟与扩展方式。
追问
- Q:轻量起步方案? A:嵌入式/单库方案适合小规模验证,规模增长后再评估托管或分布式。
- Q:元数据过滤重要吗? A:权限、时间、产品过滤是 RAG 刚需,要确认库在向量检索时的过滤能力。
10.3.2.1-012 向量入库前要做哪些校验?
一句话结论
校验向量维度一致、模型版本一致、归一化口径一致、非空无异常值;入库记录块 ID、向量与元数据关联;异常批次不写入索引,避免污染近邻结果。
概念解释
- 一致性:维度、模型、归一化口径。
- 有效性:非空、数值正常。
- 关联:向量与块元数据绑定。
原理流程
- 编码后检查维度与数值。
- 核对模型与配置版本。
- 合格批次写入,异常隔离。
代码 / 图示
编码 → 维度/模型/归一化校验 → 正常: 写入索引+元数据; 异常: 隔离重跑
常见误区
- 误区:向量写进去就行不用检查;正解:维度错配或混入旧模型向量会污染整库近邻。
- 误区:只存向量不存块 ID;正解:命中后无法回取原文与元数据。
追问
- Q:向量含 NaN/极值怎么处理? A:隔离该块,回查输入文本与编码过程,不写入索引。
- Q:批量入库如何对账? A:核对块数量、向量维度分布与元数据关联完整性。
10.3.2.1-013 向量库的更新、删除与重建如何支持?
一句话结论
文档变更需要按块 ID 删除旧向量、写入新向量;确认库支持按标识 upsert/delete 与增量索引;全量重建时可并行维护新旧索引再切换,避免更新期间检索不一致。
概念解释
- 按 ID 操作:块级增删改。
- 增量索引:写入后可检索。
- 重建:新旧索引灰度切换。
原理流程
- 变更文档定位旧块 ID。
- 删除旧向量、写入新向量。
- 重建场景双索引切换。
代码 / 图示
更新: delete(old_chunk_id) → insert(new)
重建: 新索引构建完成 → 灰度切换 → 旧索引下线
常见误区
- 误区:文档更新只追加新向量;正解:旧版本残留向量会与新内容竞争召回。
- 误区:删除文档只删原文;正解:索引中向量与元数据必须同步清除。
追问
- Q:增量删除延迟高怎么办? A:确认库的删除可见性时间,必要时重建索引验证。
- Q:双索引切换注意什么? A:切换期间查询路由明确,切换后对账块集合。
10.3.2.1-014 元数据过滤在向量库中如何配合检索?
一句话结论
先按元数据条件(权限、产品、时间、状态)过滤候选集合,再在过滤结果上做向量近邻;确认所选库过滤是在向量检索前收敛还是召回后筛选,前者性能与隔离更可靠。
概念解释
- 前置过滤:先收敛范围再近邻。
- 后置过滤:召回后剔除,可能造成 top-k 不足。
- 隔离:权限类必须硬过滤。
原理流程
- 查询携带过滤条件。
- 库内先过滤候选范围。
- 范围内做向量检索。
代码 / 图示
filter: tenant=?, status=active, product=?
→ 候选集合 → ANN 近邻 → 返回带元数据块
常见误区
- 误区:召回后再剔除无权内容即可;正解:后置过滤可能让 top-k 被无权块占满,有效候选不足。
- 误区:所有库过滤性能等价;正解:不同实现前置/后置与索引支持差异要实测。
追问
- Q:过滤条件选择性很低怎么办? A:结合关键词召回与元数据索引优化,详见混合检索子页。
- Q:权限过滤失败的风险? A:越权内容进入上下文,属于高风险,必须在检索层验证。
10.3.2.1-015 多模态与多向量场景怎么存?
一句话结论
文本、图片、表格等不同模态可用各自嵌入模型生成独立向量集合,按模态与来源分库/分集合管理;跨模态检索能力取决于模型是否支持,具体以模型当前能力为准,不混放不同模型向量。
概念解释
- 分集合:模态/模型维度隔离。
- 跨模态:同一模型空间内对齐图文。
- 不混放:不同模型向量不进同一近邻集合。
原理流程
- 按模态确定嵌入模型。
- 分集合存储与索引。
- 跨模态查询走对应模型空间。
代码 / 图示
文本向量集合 / 图片向量集合 / 表格记录集合
跨模态: 需模型支持图文同空间
常见误区
- 误区:所有内容存一个向量集合;正解:模型与模态不同会导致近邻不可比。
- 误区:文本检索直接复用图片向量;正解:模态不同表示空间不通用。
追问
- Q:表格结构化数据还需要向量吗? A:可同时存结构化字段与文本向量,精确匹配走字段,语义相似走向量。
- Q:多向量结果如何融合? A:按模态分别召回再统一排序,融合规则见混合检索子页。
10.3.2.1-016 嵌入与向量环节的常见失败模式有哪些?
一句话结论
典型失败:跨模型混放、维度不一致、未归一化口径不一、超长截断、旧向量未删除、元数据关联丢失、过滤后置导致越权;每种都有入库校验与对账手段,上线前逐项排查。
概念解释
- 一致性失败:模型/维度/口径。
- 数据失败:截断、残留、关联丢失。
- 隔离失败:过滤方式不可靠。
原理流程
- 按失败模式列入检查清单。
- 入库校验 + 定期对账。
- 异常批次隔离修复。
代码 / 图示
检查: 模型版本/维度/归一化/长度/旧向量清理/元数据关联/过滤方式
常见误区
- 误区:检索效果差就换嵌入模型;正解:先排除混放、截断、残留等数据与配置问题。
- 误区:向量库跑通即正常;正解:删除可见性、过滤性能需要生产数据验证。
追问
- Q:怎么发现旧向量残留? A:对账索引块集合与有效文档清单,查孤儿块。
- Q:归一化不一致怎么排查? A:对比入库与查询向量模长分布,统一处理口径。
10.3.2.1-017 小规模验证与生产部署如何过渡?
一句话结论
先用小规模语料在简单存储上验证检索效果,确定嵌入模型与块策略;规模增长后再评估索引类型、分布式扩展与运维方案;过渡时保留可重建管线,避免验证期配置锁死。
概念解释
- 验证期:小数据、简单实现。
- 生产期:规模、并发、更新、备份。
- 可重建:管线配置版本化。
原理流程
- 小规模跑通链路与评测。
- 按规模瓶颈选生产存储。
- 配置版本化,支持迁移重建。
代码 / 图示
验证: 小语料 + 简单库 → 评测通过
生产: 索引/扩展/更新/备份评估 → 迁移重建
常见误区
- 误区:验证架构直接等于生产架构;正解:小规模不暴露并发、更新与扩展瓶颈。
- 误区:迁移时手工搬向量;正解:从原始块重新走管线生成,保证一致性。
追问
- Q:验证期要记录什么? A:模型版本、块配置、评测结果,供生产选型对照。
- Q:生产扩容先看什么指标? A:召回命中、查询延迟 P95、内存占用、更新延迟。
10.3.2.1-018 嵌入模型成本由哪些部分构成?
一句话结论
成本包括嵌入调用/本地推理算力、向量存储与索引内存、重算成本;长文档与频繁更新增加编码量;选型时同时计入一次性编码与日常更新编码,价格与配额以供应商当前文档为准。
概念解释
- 编码成本:初始 + 增量重算。
- 存储成本:向量 + 索引内存。
- 运维:自托管算力与维护。
原理流程
- 估算语料规模与更新频率。
- 计算编码、存储、运维分项。
- 对比 API 与自托管总成本。
代码 / 图示
初始编码 + 增量重算 + 向量/索引存储 + 运维算力
常见误区
- 误区:只看嵌入单次价格;正解:向量存储内存与频繁重算常被低估。
- 误区:自托管一定更省;正解:闲置率、GPU 与运维计入后,低调用量 API 可能更划算。
追问
- Q:增量更新为什么增加编码成本? A:变更文档要重新嵌入,频率越高日常编码量越大。
- Q:怎么降低编码量? A:稳定前缀缓存、减少无效重算,具体能力按平台支持情况确认。
10.3.2.1-019 如何评测嵌入模型与索引的检索效果?
一句话结论
用标注集计算 Recall@k、MRR 等检索指标,对比候选模型与索引参数;同时监控延迟与内存;检索指标与生成答案质量分开看,嵌入问题由召回指标反映,不用最终答案好坏笼统归因。
概念解释
- 检索指标:命中、排名。
- 性能指标:延迟、资源。
- 分层归因:检索与生成分开度量。
原理流程
- 标注问题与应命中块。
- 跑候选配置算召回与排名。
- 结合性能指标选型。
代码 / 图示
Recall@k: 正确块进入前 k 的比例
MRR: 正确块排名倒数均值
对比: 模型/索引参数 × 召回/延迟/内存
常见误区
- 误区:直接用最终答案好坏选嵌入;正解:答案差可能来自生成或上下文组装,先看检索层指标。
- 误区:只看 top-1 命中;正解:RAG 通常取多路 top-k,Recall@k 更贴合实际。
追问
- Q:标注集怎么构造? A:覆盖高频与边界问题,标注对应来源块,详见评测子页。
- Q:索引参数调优目标? A:在可接受延迟与内存下尽量提高召回。
10.3.2.1-020 嵌入与向量存储落地清单是什么?
一句话结论
清单:模型与版本锁定、查询文档同模型、归一化与度量口径一致、块长度适配、维度一致性校验、索引类型与参数选型、元数据前置过滤、增删重建支持、召回与性能评测、成本与合规评估。
概念解释
- 一致性:模型、维度、口径。
- 存储:索引、过滤、更新。
- 验证:召回、性能、成本、合规。
原理流程
- 锁定嵌入配置并校验入库。
- 选型索引与存储。
- 评测召回与资源,持续监控。
代码 / 图示
□ 模型版本 □ 同模型查询/文档 □ 归一化/度量 □ 长度适配
□ 维度校验 □ 索引选型 □ 前置过滤 □ 增删重建
□ 召回/性能评测 □ 成本合规
常见误区
- 误区:嵌入与库选型一次性完成不再复核;正解:语料规模、模型版本与业务问题变化后要重新评测。
- 误区:忽略数据合规评估;正解:API 嵌入涉及数据外发,需过数据分类与条款审查。
追问
- Q:上线后监控什么? A:召回指标趋势、查询延迟、向量规模与更新一致性。
- Q:下一步衔接? A:向量召回如何与关键词召回融合、如何精排,见 10.3.2.2。