05.6.12.3 压测基准与容量规划
所属:全栈开发面试题库 / 05 数据库与存储 / 05.6 向量数据库与语义检索 / 05.6.12 跨库选型、迁移与压测
覆盖范围
- 基准设计:真实分布数据集、查询集与金标准标注、召回与延迟指标测量
- 压测执行:并发模型、工具选型、缓存与连接复用、过滤与混合检索场景、写入与导入压测
- 瓶颈定位:CPU、内存、IO、网络、队列排队、冷启动与预热
- 容量规划:增长预测、分片副本、余量与扩容阈值、降级熔断、SLA/SLO
- 报告与误区:压测报告结构、环境对齐、突发与长稳、常见测试偏差与可复现性
压测主线
需求指标(QPS / P99 / recall)
→ 真实分布数据集 + 标注查询集
→ 梯度加压 → 记录召回 / 延迟 / 资源 / 队列
→ 定位瓶颈 → 校准分片副本与余量
→ 形成容量规划与 SLA → 归档可复现基准
高频题速览
| 编号 | 题目 | 难度 | 频率 |
|---|---|---|---|
| 05.6.12.3-001 | 压测目标与成功标准 | 基础 | ★★★★★ |
| 05.6.12.3-002 | 真实分布 vs 随机向量数据集 | 进阶 | ★★★★★ |
| 05.6.12.3-004 | 查询集与金标准标注 | 高级 | ★★★★★ |
| 05.6.12.3-005 | recall@k 测量方法 | 进阶 | ★★★★★ |
| 05.6.12.3-006 | P50/P99 延迟测量 | 进阶 | ★★★★★ |
| 05.6.12.3-016 | 过滤条件纳入压测 | 进阶 | ★★★★★ |
| 05.6.12.3-020 | 容量规划与增长预测 | 高级 | ★★★★★ |
| 05.6.12.3-021 | 分片与副本规划 | 高级 | ★★★★★ |
| 05.6.12.3-025 | 压测报告结构 | 进阶 | ★★★★★ |
| 05.6.12.3-030 | 压测环境与生产对齐 | 进阶 | ★★★★★ |
| 05.6.12.3-048 | 容量规划推演示例 | 高级 | ★★★★★ |
05.6.12.3-001 压测前如何确定目标与成功标准?
频率 ★★★★★ | 难度 基础
一句话结论
先把业务目标翻译成可测量的验收线:目标 QPS、P50/P99 延迟、召回下限、资源余量与错误率上限;压测结果对照这些标准判定通过与否。
概念解释
- 负载目标:平均与峰值 QPS、读写比例、并发在途请求数。
- 质量目标:recall@k 不低于基线,过滤正确率达标。
- 资源目标:CPU、内存、IO、网络在目标负载下留有余量。
- 失败标准:延迟超 SLA、错误率超限、资源饱和或召回跌破下限即不通过。
原理流程
梳理业务场景 → 量化 QPS/延迟/召回/错误率
→ 定资源余量要求 → 形成压测验收线 → 结果对照判定
代码 / 命令
# 验收表:目标 QPS、P50/P99、hit@k、错误率、CPU/内存余量
# 每条标准注明测试条件(数据集、版本、参数、并发)
常见误区
- 误区:压测就是看能跑多快。正解:没有目标标准的结果无法判断是否满足业务。
- 误区:只定 QPS 不定延迟。正解:高 QPS 下尾延迟可能已不可接受。
追问
- 问:目标数字从哪来?答:业务峰值估算加 SLA 要求,缺数据时给区间并在 POC 校准。
- 问:召回下限怎么定?答:对照业务可接受的答案质量,不低于旧库基线。
05.6.12.3-002 数据集为什么要贴近真实分布,而不用随机向量?
频率 ★★★★★ | 难度 进阶
一句话结论
真实向量存在簇结构、聚集密度与标量分布,随机向量近似均匀,测得的索引效率、内存占用与召回都不代表生产;压测必须用真实同分布数据。
概念解释
- 结构差异:真实向量按语义成簇,邻近关系密集;随机向量缺乏聚集。
- 索引行为:HNSW 图、聚类类索引的效率与簇结构强相关。
- 过滤分布:真实标量字段有选择率分布,随机数据无法复现过滤扫描量。
- 替代方案:真实样本不足时按真实分布采样生成,并标注模拟程度。
原理流程
抽取真实文档/向量样本 → 核对维度与分布
→ 不足部分按分布扩充 → 标注数据集构成 → 压测结果注明条件
代码 / 命令
# 数据集要求:真实维度、簇结构、标量分布、规模量级贴近生产
# 随机向量仅用于功能冒烟,不作为性能与召回结论依据
常见误区
- 误区:随机向量压测快,结论可外推。正解:分布不同导致索引行为失真。
- 误区:规模靠随机填充即可。正解:缺少聚集结构使延迟与内存结论不可信。
追问
- 问:真实数据受限怎么办?答:脱敏样本或按分布生成,保守外推并在上线后回填校准。
- 问:怎么核对分布?答:看维度、距离分布、簇密度与标量选择率,与生产样本对比。
05.6.12.3-003 维度与规模如何对齐真实业务?
频率 ★★★☆☆ | 难度 进阶
一句话结论
压测数据集的向量维度、条数与增长阶段必须对齐业务现状与目标规模;维度或规模失真会让内存、计算与索引结论全部偏离。
概念解释
- 维度对齐:使用生产 Embedding 模型的真实维度,不随意降维或混用模型。
- 规模对齐:覆盖当前存量与目标规模,必要时分档压测不同数据量。
- 增长阶段:索引在不同数据量下的表现有差异,不能只测空表小规模。
- 记录:数据集条数、维度、模型与时间范围写入报告。
原理流程
确认生产模型与维度 → 按目标规模构造数据集
→ 分规模档位压测 → 记录参数与结果 → 校准容量模型
代码 / 命令
# 核对:维度等于生产模型输出、条数覆盖目标规模、标量字段真实
# 分档:小规模 / 当前规模 / 目标规模分别观察索引与内存表现
常见误区
- 误区:用低维小数据集压测大向量场景。正解:维度与规模直接影响内存和延迟,结论不可外推。
- 误区:所有压测都用同一固定数据集。正解:应覆盖增长后的规模档位。
追问
- 问:目标规模数据不足怎么办?答:按真实分布扩充并标注,结论保守外推。
- 问:维度变更要重测吗?答:要,新维度需重新评估内存、计算与索引参数。
05.6.12.3-004 查询集与金标准标注怎么构造?
频率 ★★★★★ | 难度 高级
一句话结论
查询集覆盖高频、长尾、术语与负例场景,每条标注应命中的文档或分段;金标准集用于评估召回质量,与性能压测集分开管理。
概念解释
- 查询分类:高频主路径、长尾问题、精确术语、跨段多跳、应拒答负例。
- 标注内容:问题、应命中分段/文档、相关性分级。
- 独立性:评测样本不参与参数调优,避免过拟合。
- 维护:线上错误案例持续回流补充样本。
原理流程
收集真实问题 → 分类标注应命中分段
→ 评审标注一致性 → 纳入金标准集 → 变更后回归
代码 / 命令
# 样本字段:问题、来源、应命中 chunk、难度类型、标注时间
# 分类:高频、长尾、术语、多跳、负例;保留独立测试集
常见误区
- 误区:查询集就是几条示例问题。正解:缺少长尾与负例,召回缺口暴露不出来。
- 误区:调参用同一套样本反复跑。正解:会过拟合到样本,需保留独立测试集。
追问
- 问:标注一致性怎么保证?答:明确标注规则,抽样复核分歧条目。
- 问:查询向量哪来?答:用生产同一模型对问题向量化,保证与入库口径一致。
05.6.12.3-005 recall@k 怎么测量?
频率 ★★★★★ | 难度 进阶
一句话结论
对每条标注查询,检查正确分段是否出现在返回的 TopK 内;按命中比例统计 recall@k,并结合命中排名位置评估排序质量。
概念解释
- 判定依据:标注的应命中条目是否在候选 TopK 集合中。
- 指标形式:命中查询数 / 总查询数,按 k 分别统计。
- 排名补充:共同命中条目的位次,反映排序优劣。
- 分层统计:按问题类型与文档类型分别看召回差异。
原理流程
查询走向量库 → 取 TopK 主键
→ 与标注命中集合比对 → 统计命中与排名
→ 分类型汇总 recall@k 与排名分布
代码 / 命令
# 指标:hit@k、命中排名、未命中清单
# 分层:向量/关键词/混合、各文档类型、各标签
常见误区
- 误区:答案生成正确就代表 recall 达标。正解:生成可能绕过上下文,召回需独立测量。
- 误区:只看整体命中率。正解:分层统计才能定位哪类问题漏召。
追问
- 问:一条问题应命中多个分段怎么算?答:按标注集合判断命中比例,或分别统计覆盖度。
- 问:召回低先查什么?答:切块完整性、模型一致性、过滤条件与索引参数。
05.6.12.3-006 P50/P99 延迟怎么测量?
频率 ★★★★★ | 难度 进阶
一句话结论
记录每次请求的端到端耗时,按分布统计 P50 与 P99,不能只用平均值;延迟分段记录并区分检索、排队与下游调用开销。
概念解释
- 百分位:P50 反映典型体验,P99 反映尾延迟,平均值会掩盖长尾。
- 分段计时:Embedding、检索、重排、后处理分别记录耗时。
- 排队区分:获取连接或队列等待时间与实际执行时间分开统计。
- 条件记录:并发数、数据集版本与参数随结果记录。
原理流程
每次请求打点起止 → 记录分段耗时
→ 按并发档位统计 P50/P99/错误率 → 输出分布而非单均值
代码 / 命令
# 指标:P50、P99、最大耗时、排队等待、执行耗时、错误率
# 分档:不同并发与数据集规模下分别统计
常见误区
- 误区:平均延迟达标就行。正解:P99 飙升意味着部分用户体验很差。
- 误区:把排队时间算进库内执行时间。正解:混淆后无法定位是资源饱和还是执行慢。
追问
- 问:P99 高先看什么?答:先看资源是否饱和、队列排队占比,再看索引参数。
- 问:延迟样本要采多少?答:足够覆盖分布,低并发下多轮重复取稳定值。
05.6.12.3-007 QPS 与并发模型怎么设定?
频率 ★★★☆☆ | 难度 基础
一句话结论
按业务峰值 QPS 与平均延迟换算在途并发,压测时梯度加压观察吞吐拐点;并发模型区分同步请求、异步任务与批量导入各自的并发约束。
概念解释
- 并发换算:并发 ≈ QPS × 平均延迟(Little 定律),压测复核实际值。
- 负载类型:在线检索、在线写入、离线批量导入的并发特征不同。
- 梯度加压:从低到高逐步增加并发,观察吞吐与延迟变化。
- 拐点识别:吞吐不再上升或 P99 陡升的并发点。
原理流程
估算峰值 QPS 与延迟 → 换算并发区间
→ 梯度加压 → 记录吞吐/P99/资源 → 找饱和拐点
代码 / 命令
# 设定:目标 QPS、并发档位、读写比例、持续时长
# 观测:吞吐拐点、P99 陡升点、连接与队列使用
常见误区
- 误区:并发数直接等于 CPU 核数。正解:IO 密集型检索的并发依据下游与连接容量。
- 误区:一次压到最高并发。正解:梯度加压才能找到饱和边界与拐点。
追问
- 问:在线与导入并发要分开测吗?答:要,批量导入会挤占在线资源,应混合负载评估。
- 问:峰值突发怎么模拟?答:在稳定负载基础上叠加短时间脉冲并发。
05.6.12.3-008 压测工具如何选型?
频率 ★★☆☆☆ | 难度 基础
一句话结论
选择能构造目标并发、记录延迟分布与错误率、支持场景脚本与结果导出的压测工具;工具本身不成为瓶颈,协议与 SDK 调用方式贴近生产。
概念解释
- 能力要求:并发控制、梯度加压、延迟百分位统计、错误分类、结果导出。
- 贴近生产:使用与线上相同的客户端协议与连接方式,不用脱离真实链路的裸调用。
- 工具瓶颈:压测机自身 CPU、网络不能先于被测系统饱和。
- 场景脚本:可复现检索、过滤、写入与混合流程。
原理流程
确定协议与场景 → 选支持并发与统计的工具
→ 压测机资源自检 → 编写可复现脚本 → 执行并导出结果
代码 / 命令
# 核对:并发模型、百分位统计、错误率、脚本复用、结果导出
# 压测机:独立于被测系统,网络与 CPU 有余量
常见误区
- 误区:压测工具越复杂越好。正解:能稳定复现场景并输出分布即可。
- 误区:压测机和被测系统混部。正解:互相干扰导致结果失真。
追问
- 问:工具发不出目标并发怎么办?答:先定位是压测机瓶颈还是协议连接限制,避免误判被测系统。
- 问:需要模拟多客户端吗?答:按生产连接与并发模型模拟,连接复用方式保持一致。
05.6.12.3-009 缓存与连接复用如何影响压测结果?
频率 ★★★☆☆ | 难度 进阶
一句话结论
压测要区分冷状态与热状态:连接复用、结果缓存与索引驻留都会改善延迟;评估生产表现时需说明启用了哪些复用,避免把预热后的结果当常态容量。
概念解释
- 连接复用:池化连接省去握手,影响首次与后续请求延迟。
- 结果缓存:相同或相似查询命中缓存,不代表底层检索能力。
- 索引驻留:段与索引加载进内存后查询变快,冷加载阶段更慢。
- 对比口径:冷启动、预热后、稳态分别记录结果。
原理流程
记录冷启动表现 → 预热加载索引与连接
→ 稳态压测 → 标注各状态下的延迟与吞吐
代码 / 命令
# 区分:冷加载时间、连接池状态、缓存命中比例
# 报告注明:结果来自冷态还是预热稳态
常见误区
- 误区:预热后测得的延迟作为常态承诺。正解:上线冷启动与缓存失效时表现更差。
- 误区:缓存命中计入检索性能。正解:缓存是优化层,应单独统计命中率。
追问
- 问:容量规划按哪种状态?答:以稳态为日常基线,同时评估冷启动峰值与缓存失效场景。
- 问:怎么测真实索引驻留?答:重启后观察段加载时间与冷查询延迟。
05.6.12.3-010 瓶颈定位如何判断是否 CPU 饱和?
频率 ★★★☆☆ | 难度 高级
一句话结论
CPU 饱和表现为使用率接近上限、排队上升而吞吐不再增长;定位时区分距离计算、索引构建与序列化占用,对应优化索引参数或扩计算资源。
概念解释
- 信号:CPU 持续高位、负载接近核数上限、P99 上升但吞吐封顶。
- 占用来源:距离计算、图遍历、索引构建、向量序列化与压缩。
- 对照:CPU 不高而延迟高,瓶颈可能在内存、IO 或队列。
- 处置:调参减少候选计算、降低维度/量化、扩 CPU 核数或节点。
原理流程
观察 CPU 使用率与负载 → 对照吞吐与排队
→ 拆分计算来源 → 判断饱和或其他瓶颈 → 对应优化
代码 / 命令
# 指标:CPU 使用率、负载、吞吐、P99、各阶段 CPU 占比
# 处置方向:参数调优、量化降维、增加计算节点
常见误区
- 误区:延迟高就加 CPU。正解:先确认 CPU 是否饱和,内存或 IO 瓶颈加 CPU 无效。
- 误区:压测期索引构建不算 CPU 占用。正解:构建期计算密集,需与在线检索分开观测。
追问
- 问:距离计算占比高怎么办?答:优化候选数、索引参数与量化方案。
- 问:CPU 峰值出现在什么时候?答:批量导入、索引重建与高并发检索阶段分别测量。
05.6.12.3-011 瓶颈定位如何判断是否内存不足?
频率 ★★★☆☆ | 难度 高级
一句话结论
内存不足表现为索引无法完全驻留、换入换出、响应抖动甚至 OOM;定位时核对向量与索引占用、副本数与查询缓冲,优先量化、分层或扩内存。
概念解释
- 占用构成:向量本体、索引结构、标量字段、查询临时缓冲与副本放大。
- 信号:内存水位高、磁盘换入换出频繁、延迟抖动、加载失败或进程被终止。
- 对照:CPU 有余量但查询慢,可能是索引未驻留内存。
- 处置:量化、降维、冷热分层、减少副本、分片扩节点。
原理流程
统计内存占用构成 → 观察水位与换入换出
→ 确认索引驻留状态 → 判断内存瓶颈 → 优化或扩容
代码 / 命令
# 指标:内存水位、换入换出、段加载状态、OOM/加载失败记录
# 估算:N × D × bytes × 索引放大 × 副本 + 缓冲
常见误区
- 误区:磁盘够就能跑。正解:查询期索引需驻留内存,不足会频繁换入换出。
- 误区:OOM 只加内存解决。正解:段分布不均或副本过多会再次打满新节点。
追问
- 问:内存峰值比稳态高多少?答:加载与查询缓冲阶段需单独测量,按峰值预留。
- 问:量化能降多少内存?答:幅度以实测召回对比为准,不背固定比例。
05.6.12.3-012 磁盘 IO 瓶颈如何定位?
频率 ★★★☆☆ | 难度 高级
一句话结论
IO 瓶颈出现在冷段加载、flush 落盘、索引构建与 compaction 阶段;观察磁盘吞吐、等待时间与队列,区分是容量不足还是 IO 带宽受限。
概念解释
- 触发阶段:冷段从对象存储/磁盘加载、写入落盘、索引文件读写、段合并。
- 信号:IO 等待高、加载慢、flush 卡住、检索偶发抖动。
- 区分:容量不足看磁盘水位,带宽受限看吞吐与等待时间。
- 处置:冷热分层、本地缓存、调整段大小、独立磁盘或扩展存储。
原理流程
观察 IO 吞吐与等待 → 对照触发阶段
→ 区分容量/带宽 → 定位慢在加载、落盘还是合并
代码 / 命令
# 指标:磁盘吞吐、IO 等待、加载耗时、flush/compaction 进度
# 场景:冷查询、批量导入、索引重建分别观测 IO
常见误区
- 误区:内存够就没有 IO 问题。正解:冷段加载与落盘仍受 IO 约束。
- 误区:compaction 不影响在线。正解:合并期间 IO 与 CPU 竞争会造成抖动。
追问
- 问:冷查询慢怎么缓解?答:预热热段、本地缓存、冷热分层。
- 问:对象存储慢算 IO 瓶颈吗?答:算存储层访问瓶颈,表现为加载等待,需查带宽与请求限流。
05.6.12.3-013 网络瓶颈如何定位?
频率 ★★★☆☆ | 难度 基础
一句话结论
网络瓶颈看带宽利用率、连接数、跨节点/跨区延迟与重传;检索结果体积、副本同步与批量导入流量都可能占满网络。
概念解释
- 流量来源:查询返回、向量导入、副本分片同步、跨区传输。
- 信号:带宽打满、连接数受限、网络延迟升高、超时重试增多。
- 对照:CPU 内存有余量但请求慢,需排查网络与连接。
- 处置:减小返回体积、分散连接、优化副本同步、扩容带宽。
原理流程
观察带宽与连接数 → 区分流量来源
→ 核对节点间/跨区延迟 → 判断网络瓶颈 → 优化或扩容
代码 / 命令
# 指标:带宽利用率、连接数、网络延迟、重传、超时分类
# 流量:检索下行、导入上行、副本同步分别统计
常见误区
- 误区:只看库内执行时间。正解:网络往返与结果传输也计入端到端延迟。
- 误区:返回完整向量给应用。正解:只回主键与元数据,减少下行体积。
追问
- 问:跨区部署延迟影响多大?答:节点间同步与查询往返都受影响,压测需含跨区网络条件。
- 问:连接数耗尽表现?答:获取连接排队,错误归类为连接超时而非检索超时。
05.6.12.3-014 队列与排队瓶颈如何定位?
频率 ★★★☆☆ | 难度 高级
一句话结论
请求在接入层、连接池或内部任务队列排队时,执行不一定慢但端到端延迟高;通过排队等待指标定位饱和点,区分是并发过高还是下游处理能力不足。
概念解释
- 排队位置:接入限流、连接池等待、内部任务队列、写入通道。
- 信号:等待时间占比高、队列深度增长、吞吐封顶。
- 根因:下游处理能力不足、并发配置过高或资源饱和。
- 处置:限流削峰、扩下游能力、调整连接与并发配置。
原理流程
拆分等待与执行耗时 → 看队列深度与连接等待
→ 定位饱和环节 → 判断并发过高或下游不足 → 调整
代码 / 命令
# 指标:队列深度、等待时长、连接池占用、执行时长、吞吐
# 等待占比高而执行不慢 → 排队瓶颈优先
常见误区
- 误区:P99 高就调索引参数。正解:先区分是排队还是执行慢,排队问题调参数无效。
- 误区:队列积压是在线检索问题。正解:也可能是批量导入占用了写入通道。
追问
- 问:排队怎么缓解?答:限流保护下游、扩容处理能力、削峰填谷。
- 问:怎么判断队列不会无限增长?答:观察消费速率与生产速率平衡关系。
05.6.12.3-015 冷启动与预热如何测量?
频率 ★★★☆☆ | 难度 进阶
一句话结论
测量服务重启或新节点上线后,段与索引加载完成、达到稳态延迟所需的时间;预热策略决定冷启动期能否承接流量,容量规划要计入这个阶段。
概念解释
- 冷启动过程:进程启动、连接建立、段与索引加载、缓存预热。
- 测量项:加载完成时间、冷查询延迟、预热期间错误率。
- 预热方式:主动加载热段、预热常用查询、分批上线节点。
- 容量关联:弹性扩容时新节点有加载滞后,不能假设立即可服务。
原理流程
重启/新节点 → 记录启动到可服务时间
→ 冷查询延迟测量 → 预热后对比稳态 → 纳入容量与弹性规划
代码 / 命令
# 指标:加载耗时、冷查询 P99、预热进度、可服务状态
# 规划:扩容节点预留加载窗口,未就绪不接流量
常见误区
- 误区:实例启动即等同于可服务。正解:索引未驻留时冷查询性能很差。
- 误区:弹性扩容立即生效。正解:段加载与预热需要时间,扩容有滞后。
追问
- 问:怎么缩短冷启动?答:预热热数据、本地缓存、分批加载与就绪探针控制接流量。
- 问:冷启动期流量怎么办?答:旧节点继续承接,新节点就绪后再切流。
05.6.12.3-016 为什么压测必须带过滤条件?
频率 ★★★★★ | 难度 进阶
一句话结论
真实检索总是带租户、标签、时间等过滤,过滤选择率直接影响扫描量与延迟;纯向量压测忽略过滤,会高估性能、遗漏过滤瓶颈。
概念解释
- 过滤选择率:条件命中比例低时扫描范围大,延迟显著上升。
- 索引覆盖:标量字段是否有索引、过滤能否下推到检索前。
- 组合条件:多条件叠加的选择性需要真实样本验证。
- 压测场景:按生产比例构造带过滤查询,覆盖高/低选择率样本。
原理流程
梳理生产过滤条件 → 构造不同选择率样本
→ 带过滤压测延迟与召回 → 核对下推与索引覆盖
代码 / 命令
# 场景:单条件、组合条件、高选择率、低选择率查询
# 指标:过滤后候选扫描量、检索延迟、过滤正确率
常见误区
- 误区:纯向量 TopK 压测达标即可。正解:真实过滤场景的扫描量与延迟完全不同。
- 误区:过滤不影响向量索引性能。正解:低选择率过滤可能退化为大范围扫描。
追问
- 问:过滤慢怎么优化?答:提升字段索引覆盖、优化条件顺序、核对下推能力。
- 问:多租户压测怎么模拟?答:按租户数据量分布构造查询,避免所有查询命中同一子集。
05.6.12.3-017 混合检索与 Rerank 如何纳入压测?
频率 ★★★☆☆ | 难度 高级
一句话结论
混合检索要分别压测两路召回与融合开销,Rerank 按候选数量测量额外延迟与调用成本;不能只压纯向量通道就承诺整体链路表现。
概念解释
- 混合开销:向量与关键词两路召回、合并去重与融合排序。
- Rerank 成本:候选逐条过精排模型,延迟随候选数线性增加。
- 分段测量:粗召回、融合、重排、上下文拼装分别计时。
- 质量对照:混合与重排后的命中改善要在金标准集上验证。
原理流程
构造混合查询集 → 压测两路召回与融合
→ 测量 Rerank 候选数与延迟成本 → 对比质量收益
代码 / 命令
# 指标:两路召回耗时、融合耗时、重排候选数、重排 P99、成本
# 场景:纯向量 / 纯关键词 / 混合 / 混合+重排分别对比
常见误区
- 误区:Rerank 延迟不纳入检索 SLA。正解:它是在线链路的明确耗时环节。
- 误区:混合一定比单通道快。正解:两路召回与融合有额外开销,需实测。
追问
- 问:重排候选数怎么压测?答:梯度增加候选数,观察延迟与质量边际收益。
- 问:重排超时怎么验证?答:模拟下游不可用,确认降级为粗召回结果的路径。
05.6.12.3-018 写入路径如何压测?
频率 ★★★☆☆ | 难度 进阶
一句话结论
写入压测评估单条与批量写入吞吐、可见性延迟、失败重试行为与写入对在线检索的影响;不能只测读路径就判定容量充足。
概念解释
- 写入指标:写入吞吐、单批耗时、错误率、重试次数。
- 可见性:写入成功到可被检索命中的时间分布。
- 相互影响:写入与索引构建挤占在线检索资源,需混合负载观测。
- 幂等验证:重复写入不产生重复条目。
原理流程
构造写入批次 → 压测吞吐与错误率
→ 测量可见性延迟 → 混合负载观察在线影响
代码 / 命令
# 指标:写入 QPS、批次耗时、可见性窗口、错误/重试率、对读 P99 影响
# 场景:单条写、批量写、读写混合
常见误区
- 误区:只压检索不压写入。正解:日常增量与批量导入都会占用写入与构建资源。
- 误区:写入成功等于可检索。正解:可见性是独立指标,需单独测量。
追问
- 问:写入影响在线多大?答:读写混合压测对比只读场景的 P99 变化。
- 问:可见性延迟怎么测?答:写入后按间隔点查,统计首次命中时间分布。
05.6.12.3-019 批量导入吞吐如何压测?
频率 ★★★☆☆ | 难度 进阶
一句话结论
批量导入压测测量分批灌入速率、索引构建耗时、资源峰值与失败重试成本;据此估算导入周期与所需错峰窗口,而非按单条写入速度推算。
概念解释
- 灌入速率:单位时间写入条数,受批大小、并发与下游限制。
- 索引构建:数据灌入后建索引的时间与资源占用。
- 资源峰值:导入期 CPU、内存、网络与对象存储压力。
- 失败成本:批次失败重付比例与断点续传效率。
原理流程
按目标批量规模压测灌入 → 记录速率与资源峰值
→ 测量索引构建耗时 → 估算总导入周期 → 规划错峰窗口
代码 / 命令
# 指标:导入速率、批次耗时、构建时长、CPU/内存峰值、失败率
# 估算:总量 / 速率 + 索引构建时间 + 缓冲
常见误区
- 误区:用在线单条写吞吐推算批量导入周期。正解:批量与索引构建是不同资源模式。
- 误区:导入不占在线资源。正解:混合压测确认对检索延迟的影响。
追问
- 问:批大小怎么选最优?答:压测不同批次下的速率、内存与错误率,取平衡点。
- 问:导入周期不够怎么办?答:提升受控并发、错峰执行、分离索引构建阶段。
05.6.12.3-020 容量规划与增长预测怎么做?
频率 ★★★★★ | 难度 高级
一句话结论
按当前存量、日增量与保留周期预测未来规模,结合单条资源占用推算内存、磁盘与吞吐需求;给出分阶段容量与扩容触发阈值,而不是一次性买满。
概念解释
- 规模预测:文档/chunk/向量条数随时间增长,区分热数据与归档。
- 资源模型:单条向量体积、索引放大、副本与查询缓冲换算总量。
- 吞吐预测:业务增长带动 QPS 与写入量提升。
- 阶段规划:当前、一年内、远期三档容量与扩容路径。
原理流程
统计存量与日增量 → 预测周期规模
→ 单条资源 × 规模得总量 → 加冗余与增长 → 定阶段容量与阈值
代码 / 命令
# 输入:当前条数、日增量、保留周期、维度、副本、目标 QPS
# 输出:分阶段内存/磁盘/CPU/带宽清单 + 扩容触发条件
常见误区
- 误区:按当前规模一次性配满。正解:应给出增长曲线与扩容触发线。
- 误区:忽略归档冷数据占用。正解:历史数据持续累积,需分层存储规划。
追问
- 问:增长不确定怎么办?答:给区间与假设,明确到达哪条阈值触发扩容。
- 问:模型回填模型怎么校准?答:小规模真实数据导入后读实际占用,修正单条系数。
05.6.12.3-021 分片与副本如何规划?
频率 ★★★★★ | 难度 高级
一句话结论
分片解决容量与单节点上限,副本解决吞吐与可用性;按容量定分片数,按 QPS 与 SLA 定副本数,两者分别测算并考虑资源放大。
概念解释
- 分片依据:单机内存与容量上限、向量总量、段分布均衡。
- 副本依据:查询并发能力、可用性要求、节点故障容忍度。
- 资源放大:每个副本都持有可服务数据,内存与存储随副本数增长。
- 均衡:分片不均会产生热点节点,规划时考虑数据分布与再均衡。
原理流程
容量 ÷ 单节点上限 → 定分片数
→ QPS ÷ 单节点吞吐 → 定副本数
→ 核算总资源 → 验证分布均衡
代码 / 命令
# 计算:分片 = ceil(总量 / 单节点容量);副本按吞吐与可用性定
# 指标:各节点段数量、内存、QPS 分布是否均衡
常见误区
- 误区:加副本解决容量不足。正解:副本放大内存,容量问题应靠分片。
- 误区:分片越多越好。正解:过多分片增加调度与元数据开销,热点更难均衡。
追问
- 问:副本数怎么验证够用?答:压测单节点吞吐,按目标 QPS 反推副本并留余量。
- 问:分片调整要重建吗?答:再均衡会迁移段,需评估窗口与资源峰值。
05.6.12.3-022 预留余量与扩容阈值怎么设定?
频率 ★★★☆☆ | 难度 基础
一句话结论
容量规划留出资源余量应对峰值与增长,设定明确的扩容触发阈值(内存水位、QPS/P99、写入积压),避免资源打满才被动扩容。
概念解释
- 余量口径:CPU、内存、磁盘、连接与吞吐分别预留缓冲。
- 触发阈值:水位达到上限前启动扩容,而非饱和后处理。
- 峰值缓冲:覆盖突发流量与副本失效场景。
- 定期复核:随真实用量修正阈值与余量比例。
原理流程
定各项资源安全水位 → 设扩容触发阈值
→ 压测确认饱和点 → 上线后按真实水位复核
代码 / 命令
# 阈值示例(按自有基线校准):内存水位、CPU 水位、P99 上升、队列积压
# 余量:峰值与故障场景下仍有可调度资源
常见误区
- 误区:按实测饱和点配满资源。正解:没有余量,突发与故障直接击穿。
- 误区:阈值凭感觉设定。正解:用压测饱和点与线上基线共同校准。
追问
- 问:余量留多少合适?答:按业务等级与突发幅度定,关键服务余量更高。
- 问:扩容阈值多久复查?答:随数据增长与负载变化定期复核,避免阈值过时。
05.6.12.3-023 降级与熔断如何纳入容量设计?
频率 ★★★☆☆ | 难度 进阶
一句话结论
容量规划要包含分级降级手段(减候选、关重排、缓存兜底)与熔断保护,避免下游过载时雪崩;降级开关与触发条件在压测中验证。
概念解释
- 降级层级:缩小 TopK、关闭 Rerank、跳过混合通道、返回缓存或兜底结果。
- 熔断保护:下游错误率或超时超阈值时断开快速失败,防止积压放大。
- 触发条件:资源水位、错误率、延迟阈值对应降级动作。
- 验证:压测或演练确认降级路径真实生效、恢复后自动回升。
原理流程
梳理可降级环节 → 定触发阈值与动作
→ 压测模拟过载 → 验证降级与熔断 → 记录恢复流程
代码 / 命令
# 降级项:候选数、重排、混合通道、缓存兜底
# 熔断:错误率/超时阈值、半开恢复策略
常见误区
- 误区:容量够就不需要降级。正解:突发与故障仍需保护主链路。
- 误区:降级开关写了但没验证。正解:未演练的开关关键时刻可能不生效。
追问
- 问:降级伤体验怎么办?答:分级保可用,比整体超时不可用更可接受,并记录降级指标。
- 问:熔断后怎么恢复?答:半开探测恢复成功后逐步放开流量。
05.6.12.3-024 SLA/SLO 怎么基于压测结果设计?
频率 ★★★☆☆ | 难度 高级
一句话结论
SLO 以压测达标结果与业务容忍度为依据,定义可用性、延迟与召回目标;把容量、降级与告警阈值挂到 SLO 上,而不是先拍指标再找数据支撑。
概念解释
- 可用性:成功响应比例,排除明确的客户端错误。
- 延迟 SLO:P50/P99 在目标负载下的上限。
- 质量 SLO:召回与过滤正确率的底线。
- 关联设计:容量余量、降级触发与告警阈值围绕 SLO 设置。
原理流程
业务定容忍目标 → 压测验证可达性
→ 定可用性/延迟/召回 SLO → 配置告警与降级 → 线上复核
代码 / 命令
# SLO 项:可用性、P99 延迟、recall@k、错误率上限
# 关联:达到阈值的告警、降级动作与扩容策略
常见误区
- 误区:SLO 越高越好。正解:越高容量与成本越大,应匹配业务等级。
- 误区:压测达标就承诺线上 SLO。正解:还需考虑冷启动、故障与增长余量。
追问
- 问:SLO 达不到怎么办?答:先补容量或优化瓶颈,不能靠放宽测试条件达标。
- 问:多租户 SLO 怎么分?答:按业务等级分级设定,大租户单独保障。
05.6.12.3-025 压测报告应该怎么写?
频率 ★★★★★ | 难度 进阶
一句话结论
报告包含测试环境与版本、数据集与查询集、场景与并发、召回/延迟/吞吐/资源结果、瓶颈分析、容量结论与未解决项;所有数字注明测试条件以便复现。
概念解释
- 环境条件:版本、参数、数据集规模维度、部署拓扑、压测机。
- 结果指标:recall、P50/P99、吞吐、错误率、CPU/内存/IO/队列。
- 分析结论:瓶颈定位、优化方向、容量建议与达标判断。
- 可复现:脚本、数据集说明与参数归档,结果可重复验证。
原理流程
记录环境与数据集 → 分场景压测采集指标
→ 分析瓶颈与拐点 → 给容量与达标结论 → 归档脚本数据
代码 / 命令
# 报告结构:环境/版本/数据集 / 场景并发 / 结果指标 / 瓶颈 / 容量结论 / 遗留项
# 每个数字标注条件:数据集、并发、参数、时间
常见误区
- 误区:报告只放几张延迟图。正解:缺少召回、资源与条件说明,结论不可复核。
- 误区:把单次峰值当稳态结论。正解:需说明持续时长与稳定性观察。
追问
- 问:报告结论给谁看?答:架构决策、容量采购与运维交接,需可执行建议。
- 问:遗留问题怎么写?答:列明未覆盖场景、待确认参数与后续验证计划。
05.6.12.3-026 误区:只测纯向量检索会遗漏什么?
频率 ★★★☆☆ | 难度 进阶
一句话结论
纯向量压测遗漏了过滤扫描、混合通道、重排开销与写入构建压力;这些环节在真实链路中占用资源,纯向量结果会高估整体性能。
概念解释
- 遗漏环节:标量过滤、关键词召回、融合去重、Rerank、写入与索引构建。
- 性能偏差:真实查询的候选规模与处理链路比纯向量复杂。
- 质量遗漏:只测向量命中,未验证混合与重排的实际收益。
- 纠正:按生产链路场景组合压测,分段测量。
原理流程
梳理在线完整链路 → 拆分各环节场景
→ 分别与组合压测 → 对比纯向量与全链路差异
代码 / 命令
# 场景清单:纯向量、带过滤、混合、加重排、读写混合
# 分段计时:召回/融合/重排/写入构建
常见误区
- 误区:向量库性能等于纯向量查询性能。正解:过滤与重排是真实链路的组成部分。
- 误区:写入构建不影响在线能力评估。正解:资源争抢需在混合负载中观察。
追问
- 问:哪些场景必须组合测?答:生产实际走的混合检索与读写混合都应覆盖。
- 问:怎么定位被遗漏的开销?答:分段计时对比各环节耗时占比。
05.6.12.3-027 误区:忽略过滤选择率会带来什么误判?
频率 ★★★☆☆ | 难度 进阶
一句话结论
低选择率过滤扫描范围大、延迟高,用高选择率样本压测会误以为过滤无成本;必须覆盖不同选择率,否则线上复杂条件下性能失真。
概念解释
- 选择率:过滤条件命中比例,越低扫描越多数据。
- 样本偏差:只测宽松条件,过滤接近摆设,掩盖扫描开销。
- 组合复杂度:多条件叠加的选择性与单条件不同。
- 纠正:按生产分布构造高/中/低选择率查询分别压测。
原理流程
统计生产条件选择率分布 → 构造对应样本
→ 分选择率压测延迟与扫描量 → 定位低选择率瓶颈
代码 / 命令
# 样本:高/中/低选择率、单条件/组合条件
# 指标:过滤后扫描量、候选数、检索延迟
常见误区
- 误区:所有过滤查询延迟相近。正解:选择率差异使扫描量和延迟差别显著。
- 误区:过滤只影响正确性不影响性能。正解:下推与扫描直接影响延迟。
追问
- 问:低选择率查询怎么优化?答:核对标量索引、条件顺序与字段覆盖。
- 问:怎么知道生产选择率?答:统计线上过滤条件的命中分布,压测按比例构造。
05.6.12.3-028 误区:只看平均值有什么问题?
频率 ★★★☆☆ | 难度 基础
一句话结论
平均值掩盖尾延迟与分布不均,少数慢请求决定用户体验和超时率;必须看 P50/P99 分布、错误率与慢请求占比。
概念解释
- 平均偏差:大量快请求拉高均值,掩盖少量超时慢请求。
- 分布视角:P99、最大耗时、慢请求比例反映真实尾部。
- 节点不均:平均值还可能掩盖个别热点节点。
- 记录方式:每次请求耗时入库统计分布,而非只汇总均值。
原理流程
采集逐请求耗时 → 统计百分位与慢请求占比
→ 分节点/场景看分布 → 不只引用平均值
代码 / 命令
# 指标:P50、P99、P999、慢请求比例、错误率、分节点分布
# 避免:用单条平均延迟代表整体体验
常见误区
- 误区:平均延迟达标即性能合格。正解:P99 可能已超 SLA。
- 误区:全局平均掩盖热点。正解:分节点与分租户统计定位不均。
追问
- 问:尾延迟由什么造成?答:资源饱和、排队、冷段加载与噪声邻居,需分段定位。
- 问:慢请求怎么采样分析?答:保留慢请求耗时分段与资源快照。
05.6.12.3-029 误区:单次短压测不看稳定性有什么风险?
频率 ★★★☆☆ | 难度 进阶
一句话结论
短压测看不到内存缓慢增长、句柄/连接泄漏、索引合并波动与缓存衰减;需要一定时长的长稳压测观察资源趋势与稳定性。
概念解释
- 缓慢问题:内存泄漏、连接未释放、队列积压在短时压测中不显现。
- 周期性波动:flush、compaction、索引重建带来的阶段性抖动。
- 长稳观察:资源趋势是否平稳、延迟是否随时长漂移。
- 对比:启动期、稳态、长稳后的资源与延迟曲线。
原理流程
短时功能与拐点压测 → 延长持续时长
→ 观察内存/连接/队列趋势 → 记录周期性波动 → 复核稳定性
代码 / 命令
# 长稳指标:内存趋势、连接数、队列深度、延迟漂移、错误率趋势
# 周期事件:flush、compaction、索引重建时段单独标注
常见误区
- 误区:跑几分钟不报错就稳定。正解:泄漏与积压需要时长才暴露。
- 误区:忽略周期性抖动。正解:合并/flush 时段的 P99 波动影响线上体验。
追问
- 问:长稳压多久合适?答:覆盖一个完整的写入与合并周期,具体按业务节奏定。
- 问:内存缓慢增长怎么判断泄漏?答:对比空闲与压测后回收基线,不回落即异常。
05.6.12.3-030 压测环境为什么要与生产对齐?
频率 ★★★★★ | 难度 进阶
一句话结论
部署拓扑、资源规格、索引参数、数据集分布与客户端配置尽量贴近生产;环境差异会让压测结论无法外推到线上,对齐程度决定结论可信度。
概念解释
- 拓扑对齐:节点数、副本分片、部署形态与生产一致或等比。
- 规格对齐:CPU/内存/磁盘/网络规格不低于生产可比口径。
- 配置对齐:索引类型参数、量化、过滤字段、客户端连接配置一致。
- 数据对齐:分布、维度、规模与标量选择率贴近生产。
原理流程
梳理生产环境配置 → 搭建等比压测环境
→ 对齐参数与数据集 → 记录差异项 → 结论注明外推限制
代码 / 命令
# 对齐清单:拓扑、规格、索引参数、量化、数据集、客户端配置
# 差异记录:哪些不等比、为什么、对结论的影响
常见误区
- 误区:小规格环境压测结果直接套生产。正解:资源与拓扑差异会改变瓶颈位置。
- 误区:参数调优只在压测环境生效。正解:生产配置需同步核对一致。
追问
- 问:无法等比怎么办?答:按比例建模并保守外推,关键指标上线后复核。
- 问:客户端连接方式要对齐吗?答:要,连接池与复用方式影响并发表现。
05.6.12.3-031 突发流量与峰值压测怎么模拟?
频率 ★★★☆☆ | 难度 高级
一句话结论
在稳定负载上叠加短时脉冲并发,观察系统在峰值下的延迟、错误率、限流与降级表现;评估弹性扩容是否来得及承接突发。
概念解释
- 峰值形态:周期高峰还是偶发尖峰,对应不同容量与弹性策略。
- 脉冲压测:基线负载 + 短时间并发抬升,观察饱和与恢复。
- 保护验证:限流、排队、降级在峰值下是否生效。
- 弹性验证:扩容速度与节点预热能否跟上突发。
原理流程
建立基线负载 → 叠加脉冲并发
→ 观察 P99/错误率/资源 → 验证限流降级 → 测扩容响应时间
代码 / 命令
# 场景:基线 QPS、脉冲幅度与持续时长、恢复阶段
# 指标:峰值 P99、错误率、队列、扩容耗时、降级触发
常见误区
- 误区:按平均流量规划峰值容量。正解:突发需要冗余或弹性承接。
- 误区:只测峰值瞬时通过。正解:还要看峰值过后的恢复与积压消化。
追问
- 问:扩容赶不上突发怎么办?答:配合限流降级,避免脉冲打爆系统。
- 问:峰值数据怎么进容量模型?答:按峰值 QPS 与持续时长预留弹性资源。
05.6.12.3-032 长稳压测如何观察内存泄漏与资源趋势?
频率 ★★★☆☆ | 难度 高级
一句话结论
长稳期间跟踪内存、连接、句柄与队列的趋势曲线,压测结束后观察是否回落到基线;不回落的持续增长通常指向泄漏或未释放资源。
概念解释
- 内存趋势:堆与进程内存是否随时长单调增长,空闲后能否回收。
- 连接/句柄:获取与释放是否配对,只增不减即泄漏。
- 队列积压:生产与消费速率是否平衡,深度是否持续抬升。
- 周期性事件:区分正常的段/索引增长与异常泄漏。
原理流程
记录空闲基线 → 长稳压测采样趋势
→ 停止负载观察回收 → 对比基线 → 定位不释放资源
代码 / 命令
# 趋势指标:内存、连接数、句柄、队列深度、GC 次数与暂停
# 判定:负载回落后资源不回落 → 泄漏嫌疑
常见误区
- 误区:进程内存上涨就是泄漏。正解:可能是缓存或索引驻留,需看回收基线。
- 误区:连接池占用高是泄漏。正解:池化保留属正常,关键看是否超上限且不释放。
追问
- 问:发现持续增长怎么排查?答:定位获取点与释放路径,检查异常分支与定时器。
- 问:GC 停顿要观察吗?答:要,高频率长停顿会表现为延迟抖动。
05.6.12.3-033 索引构建期的资源占用怎么测量?
频率 ★★★☆☆ | 难度 进阶
一句话结论
索引构建是 CPU 与内存密集阶段,单独测量构建耗时、资源峰值与对在线检索的影响;容量规划要计入构建期资源,不能只按稳态查询估算。
概念解释
- 构建资源:训练/图构建/量化计算占用 CPU 与临时内存。
- 耗时测量:从任务开始到索引可服务的时长。
- 在线影响:构建与在线检索争抢资源,需混合观测。
- 场景:首次建索引、增量段构建、重建索引分别测量。
原理流程
触发索引构建 → 采样 CPU/内存/IO
→ 记录构建时长 → 同时观测在线 P99 → 评估峰值预留
代码 / 命令
# 指标:构建时长、CPU/内存峰值、构建期间检索延迟、积压任务数
# 规划:构建并发上限与在线隔离窗口
常见误区
- 误区:索引构建不占在线资源。正解:同节点上会与检索争抢 CPU 内存。
- 误区:稳态资源够用即可。正解:构建峰值可能超过稳态,需单独预留。
追问
- 问:构建太慢怎么优化?答:合并碎片段、提升构建并行度、评估更轻索引类型。
- 问:重建索引安排在什么时候?答:低峰窗口,限速执行并观察在线影响。
05.6.12.3-034 多租户混合负载怎么压测?
频率 ★★★☆☆ | 难度 高级
一句话结论
按租户数据量与查询比例构造混合负载,验证大租户不会挤占小租户、配额限流生效、过滤隔离正确;不能只用均匀单租户数据压测。
概念解释
- 负载分布:大小租户比例、各自 QPS 与数据量贴近生产。
- 相互影响:大租户扫描与高并发是否拖慢共享集合上的其他租户。
- 配额验证:租户级限流与资源隔离行为符合预期。
- 隔离正确性:跨租户不命中、不越权返回。
原理流程
梳理租户规模与流量分布 → 构造混合负载
→ 观测分租户延迟与资源 → 验证配额与隔离 → 定位争抢
代码 / 命令
# 场景:大/中/小租户混合、集中查询与分散查询
# 指标:分租户 P99、资源争抢、限流触发、跨租户命中检查
常见误区
- 误区:所有租户数据均匀分布即可。正解:真实存在大租户热点,共享集合易被拖累。
- 误区:限流压测单租户即可。正解:混合负载下才能验证配额公平性。
追问
- 问:大租户影响共享怎么办?答:独立集合/分区、配额限流、单独资源规划。
- 问:怎么验证隔离?答:跨租户查询应只返回授权范围条目。
05.6.12.3-035 成本与容量如何联动规划?
频率 ★★★☆☆ | 难度 基础
一句话结论
容量方案同时对应资源成本:分片副本、量化方案、冷热分层与弹性策略影响 TCO;在满足召回与 SLA 的前提下,按成本约束调整容量配置。
概念解释
- 资源成本:内存、磁盘、副本与节点数量直接换算费用。
- 降本手段:量化降内存、冷热分层降存储、弹性缩容低峰冗余。
- 质量约束:降本方案不得突破召回下限与 SLA。
- 联动输出:容量清单附成本估算与可选取舍档。
原理流程
容量需求 → 换算资源与成本
→ 对比量化/分层/弹性方案 → 满足质量底线选成本最优
代码 / 命令
# 联动项:副本数、量化类型、冷热分层、弹性规格、模型调用成本
# 输出:基础档与优化档容量成本对比
常见误区
- 误区:容量规划不考虑成本。正解:资源配置直接对应预算,需给出取舍。
- 误区:降本只砍机器数量。正解:需用召回与延迟验证,不能牺牲质量。
追问
- 问:哪项成本弹性最大?答:副本冗余、量化与冷热分层通常优先评估。
- 问:成本方案怎么验证?答:压测不同配置下的资源占用与召回,对比单位查询成本。
05.6.12.3-036 上线前如何建立监控指标基线?
频率 ★★☆☆☆ | 难度 基础
一句话结论
压测与上线初期采集请求、资源、存储与队列指标,形成正常基线;后续以此对比异常波动,阈值在基线上校准而非照抄默认值。
概念解释
- 请求指标:QPS、P50/P99、错误率、超时与空召回。
- 资源指标:CPU、内存、IO、网络与 GC 类指标。
- 存储队列:段/集合状态、构建积压、队列深度。
- 基线用途:告警阈值与容量判断的参照系。
原理流程
确定指标清单 → 压测与初期运行采集
→ 形成各指标正常区间 → 校准告警阈值 → 持续更新基线
代码 / 命令
# 指标分组:请求 / 资源 / 存储 / 队列 / 业务质量
# 基线:正常区间、峰值区间、异常波动判定标准
常见误区
- 误区:告警阈值用产品默认值。正解:自有负载与分布不同,需按基线校准。
- 误区:只监控错误不监控延迟趋势。正解:缓慢劣化也需要基线对比发现。
追问
- 问:基线多久更新?答:规模与负载变化后重新校准。
- 问:基线包含哪些时段?答:区分日常与高峰时段的正常区间。
05.6.12.3-037 压测数据为什么要归档可复现?
频率 ★★☆☆☆ | 难度 基础
一句话结论
数据集说明、查询集、脚本、参数与结果归档保存,使压测可重复执行、结论可复核;不可复现的性能数字无法支撑选型与容量决策。
概念解释
- 归档内容:数据集构成与规模、标注查询集、压测脚本、索引与客户端参数、结果报告。
- 可复现:相同条件下重跑得到一致趋势,便于版本变更后回归。
- 版本关联:记录被测组件版本与配置快照。
- 合规:真实数据脱敏后归档。
原理流程
压测前固化脚本与数据集说明 → 执行结果附条件归档
→ 变更后用同一基准回归 → 对比历史结果
代码 / 命令
# 归档清单:数据集、查询集、脚本、参数、版本、结果、报告
# 真实样本脱敏后保存,标注数据来源与规模
常见误区
- 误区:压测结果记在聊天记录里。正解:无脚本与条件归档,后续无法复核。
- 误区:参数随手调整不记录。正解:结果与参数不对应,结论失真。
追问
- 问:归档数据集要多大?答:足够复现主要场景,敏感内容用脱敏样本。
- 问:版本升级要重跑吗?答:用归档基准回归,对比性能与召回变化。
05.6.12.3-038 告警阈值如何服务于容量规划?
频率 ★★★☆☆ | 难度 基础
一句话结论
告警阈值从容量饱和点与 SLO 推导:资源水位、延迟、积压达到预警线即触发扩容或降级;阈值与扩容动作联动,而非孤立报警。
概念解释
- 预警线:低于饱和点提前告警,留出扩容处置时间。
- 联动动作:不同阈值对应扩容、限流、降级或人工介入。
- 容量关联:阈值位置依据压测饱和点与增长余量设定。
- 复核:线上真实基线校准阈值,避免误报或漏报。
原理流程
压测找饱和点 → 定预警/饱和阈值
→ 关联扩容与降级动作 → 上线复核误报漏报 → 调整阈值
代码 / 命令
# 阈值组:资源水位、P99、队列积压、错误率、空召回
# 动作:预警通知、自动扩容、限流降级、人工介入
常见误区
- 误区:告警只通知不绑定动作。正解:容量类告警应对应明确处置流程。
- 误区:阈值设到饱和点才报警。正解:到达饱和再处置已来不及,需提前预警。
追问
- 问:阈值误报多怎么办?答:结合基线与持续时长过滤抖动,分级告警。
- 问:容量增长后阈值要改吗?答:随基线与余量定期复核调整。
05.6.12.3-039 扩容触发条件怎么设定?
频率 ★★★☆☆ | 难度 进阶
一句话结论
扩容条件基于资源水位、延迟趋势与积压情况,并考虑扩容加载滞后;达到触发线前启动扩容,预留新节点就绪时间。
概念解释
- 触发信号:内存/CPU 水位、P99 上升、写入或检索队列积压、副本失效。
- 滞后考虑:新节点加载索引需要时间,触发要早于饱和点。
- 扩容方式:加副本提升吞吐、加分片解决容量、冷热分层卸载。
- 验证:扩容后资源与延迟回落,段分布均衡。
原理流程
定义触发信号与阈值 → 监控趋势
→ 达线启动扩容 → 等待节点就绪加载 → 观察负载回落
代码 / 命令
# 触发:水位、P99 趋势、队列积压、可用副本数
# 动作:副本扩容 / 分片扩容 / 分层卸载;记录扩容耗时
常见误区
- 误区:容量打满才扩容。正解:加载滞后会导致扩容期继续承压。
- 误区:一种扩容方式解决所有问题。正解:容量问题分片,吞吐问题副本,方向不能混。
追问
- 问:扩容后不均怎么办?答:观察段与负载分布,触发再均衡。
- 问:缩容条件呢?答:低峰资源富余且稳定后逐步缩,先迁走段再下线节点。
05.6.12.3-040 降级路径如何在压测中验证?
频率 ★★★☆☆ | 难度 进阶
一句话结论
模拟下游过载或故障,验证减候选、关重排、缓存兜底与熔断各路径实际生效,并测量降级后的质量与延迟表现;未验证的开关不能依赖。
概念解释
- 降级项:TopK 缩小、Rerank 关闭、混合通道精简、缓存结果返回。
- 熔断路径:超时/错误超阈值快速失败与半开恢复。
- 质量检查:降级后召回与答案可接受度仍在底线内。
- 恢复验证:压力解除后自动回升到正常链路。
原理流程
模拟过载/故障 → 触发降级与熔断
→ 验证动作生效与结果质量 → 恢复压力 → 观察回升
代码 / 命令
# 验证项:降级开关触发、候选/重排变化、缓存命中、熔断半开恢复
# 指标:降级后延迟、错误率、召回可接受度
常见误区
- 误区:降级写进设计文档即视为可用。正解:必须在压测或演练中实际触发验证。
- 误区:降级后不评估质量。正解:过度降级可能让答案不可用。
追问
- 问:降级优先级怎么排?答:先关非必要重排,再减候选,最后缓存兜底。
- 问:怎么避免降级长期停留?答:监控降级状态,恢复后自动或手动切回。
05.6.12.3-041 压测结果如何反哺选型?
频率 ★★★☆☆ | 难度 进阶
一句话结论
选型阶段用统一基准压测各候选,对比召回、延迟、吞吐与资源占用;实测结果回填能力矩阵与成本模型,作为决策证据而非文档承诺。
概念解释
- 统一基准:相同数据集、查询集、参数口径与并发条件对比候选。
- 对比维度:召回质量、P99/吞吐、资源占用、过滤与混合能力。
- 回填决策:实测结果进入能力矩阵与 TCO 模型。
- 风险标注:未覆盖场景与待确认项写入结论。
原理流程
定统一基准 → 各候选分别压测
→ 对比指标与资源 → 回填矩阵成本 → 形成选型证据
代码 / 命令
# 对比表:候选 / recall / P99 / 吞吐 / 内存 / 过滤能力 / 成本
# 证据来源:实测报告;文档能力作为补充说明
常见误区
- 误区:选型只看官方基准数据。正解:自有数据集与环境的实测才是决策依据。
- 误区:各候选用不同条件对比。正解:口径不一致的结果无法横向比较。
追问
- 问:候选实测都不达标怎么办?答:调整需求或方案,不强行选边缘可行项。
- 问:小样本实测够吗?答:覆盖主要场景,规模外推保守并上线复核。
05.6.12.3-042 召回质量与性能如何平衡验证?
频率 ★★★☆☆ | 难度 高级
一句话结论
在同一基准上调整索引参数、量化与候选规模,同时测量召回与延迟/资源;找到满足召回下限的最省配置,而不是单方面追求高召回或低延迟。
概念解释
- 可调旋钮:邻居/搜索参数、量化方案、TopK、重排候选数、维度。
- 双指标:每组配置同时记录 recall@k 与 P99/内存占用。
- 平衡点:召回不低于底线前提下,取延迟与成本最优的组合。
- 边界:量化或降维的损失用重打分与评测集验证。
原理流程
固定基准集 → 梯度调参
→ 每组测召回与性能 → 画权衡曲线 → 选达标最省组合
代码 / 命令
# 对比表:参数组合 / recall / 排名 / P99 / 内存 / 成本
# 底线:召回不低于业务要求,延迟在 SLA 内
常见误区
- 误区:参数越大召回越好就采用。正解:还要看延迟与成本是否可接受。
- 误区:只在性能维度调参。正解:每组配置都要回归召回质量。
追问
- 问:召回与性能冲突时先保哪个?答:质量底线不可破,再在可行范围内优化性能。
- 问:怎么确认组合可上线?答:金标准集达标且长稳性能稳定,再灰度验证。
05.6.12.3-043 端到端延迟与库内延迟如何区分测量?
频率 ★★★☆☆ | 难度 进阶
一句话结论
端到端延迟包含网络、应用处理与库内执行,库内延迟只反映存储侧;分开测量才能判断瓶颈在链路哪一段,避免把应用开销算到向量库头上。
概念解释
- 端到端:请求进入应用到响应返回的总耗时。
- 拆分段:网络往返、应用编排、Embedding、库内检索、重排与后处理。
- 库内口径:从请求到达存储到结果返回的执行时间。
- 对照分析:各段占比决定优化方向。
原理流程
应用侧打点 → 库侧记录执行时间
→ 对比端到端与库内差值 → 定位网络/应用/库内瓶颈
代码 / 命令
# 指标:端到端 totalMs、库内 searchMs、应用编排、网络等待
# 分段看板:各段 P50/P99 分别聚合
常见误区
- 误区:端到端慢就是向量库慢。正解:可能慢在模型调用、网络或后处理。
- 误区:只测库内延迟承诺全链路 SLA。正解:应用与网络开销需单独计入。
追问
- 问:差值过大先查什么?答:网络往返、序列化与应用处理段。
- 问:跨服务部署延迟怎么算?答:把网络跳段分别计时,定位最远跳点。
05.6.12.3-044 并发梯度加压怎么操作?
频率 ★★★☆☆ | 难度 基础
一句话结论
从低并发起步逐级提升,每档稳定后记录吞吐、P99、资源与错误率;找到吞吐拐点与延迟陡升点,作为容量与并发上限依据。
概念解释
- 档位设计:按并发区间分档,每档运行足够时长取稳定值。
- 拐点观察:吞吐封顶、P99 陡升、资源饱和的并发位置。
- 每档记录:指标与资源趋势,对比不同档位差异。
- 回退验证:高并发后回落,确认系统能恢复正常。
原理流程
低并发起步 → 每档稳定采样 → 逐级加压
→ 记录拐点与饱和点 → 回落验证恢复 → 定并发上限
代码 / 命令
# 档位:并发梯度、每档持续时长、采样指标
# 记录:吞吐拐点、P99 陡升点、资源饱和点
常见误区
- 误区:直接压到最高并发。正解:无法定位拐点,也观察不到渐进劣化。
- 误区:每档跑几秒就取值。正解:未达稳态的延迟与吞吐不稳定。
追问
- 问:档位间隔怎么定?答:按预计容量区间划分,拐点附近加密档位。
- 问:加压中出现错误怎么办?答:记录错误类型与并发位置,作为上限参考而非强行继续。
05.6.12.3-045 压测数据集如何脱敏与合规处理?
频率 ★★☆☆☆ | 难度 基础
一句话结论
使用真实业务数据压测前脱敏个人信息与敏感内容,导出与归档样本遵循数据合规要求;无法脱敏的敏感数据不得进入压测环境。
概念解释
- 脱敏对象:个人标识、联系方式、合同/财务等敏感字段。
- 环境隔离:压测环境凭据与生产分离,样本不出授权范围。
- 归档合规:脱敏后样本按保留策略管理,不随意扩散。
- 替代方式:无法脱敏时用按分布生成的模拟数据。
原理流程
识别敏感字段 → 脱敏或生成模拟样本
→ 压测环境隔离 → 归档样本按合规保留
代码 / 命令
# 检查:样本无个人敏感信息、环境凭据独立、归档权限受控
# 待确认:具体合规要求按所在组织与地区规则执行
常见误区
- 误区:压测环境用生产全量数据。正解:合规与泄露风险不可接受。
- 误区:脱敏破坏分布就不处理。正解:应保留统计分布,去除可识别信息。
追问
- 问:脱敏后召回还能测吗?答:语义主要由文本结构与向量决定,去除标识通常不影响检索结论。
- 问:模拟数据怎么保证可用?答:按真实分布生成并标注模拟程度。
05.6.12.3-046 压测脚本如何保证可复现?
频率 ★★★☆☆ | 难度 基础
一句话结论
脚本参数化数据集路径、并发档位、索引配置与客户端设置,版本化保存;执行命令与环境条件写入报告,使他人可按相同步骤复跑。
概念解释
- 参数化:数据集、查询集、并发、批大小、超时等外部可配。
- 版本管理:脚本与配置随项目归档,注明被测版本。
- 执行记录:命令、环境、时长与结果一并保存。
- 一致性:脚本使用与生产相同的客户端协议与连接配置。
原理流程
脚本参数化 → 版本化保存 → 记录执行步骤
→ 他人按文档复跑 → 结果趋势一致
代码 / 命令
# 脚本要素:数据集/查询集路径、并发档位、批大小、超时、输出格式
# 文档:环境版本、执行命令、参数取值与结果归档位置
常见误区
- 误区:脚本里硬编码本机路径与数据。正解:参数化后才能在其他环境复现。
- 误区:手动调整参数不记录。正解:缺参数记录的结果不可复现。
追问
- 问:脚本依赖外部服务怎么办?答:记录服务版本与配置,必要时提供 mock 模式。
- 问:复跑结果不一致怎么办?答:先核对环境、数据集与参数差异,再排查稳定性。
05.6.12.3-047 压测如何避免影响生产环境?
频率 ★★★☆☆ | 难度 基础
一句话结论
压测优先在独立环境进行;必须对生产流量做压测时,限速、隔离租户或实例,并避开业务高峰,防止压测流量挤占真实用户资源。
概念解释
- 独立环境:同等规格的预发或压测集群,数据脱敏。
- 生产压测限制:低峰时段、小比例流量、隔离目标与配额。
- 保护措施:限流上限、快速停止开关、监控告警。
- 风险评估:误连生产、压测打爆共享依赖的防护方案。
原理流程
优先独立环境 → 生产压测限速隔离
→ 避开高峰 → 准备停止开关与监控 → 事后核对影响
代码 / 命令
# 检查:环境隔离、目标实例/租户、速率上限、停止开关、告警
# 禁止:无限制压测共享生产依赖,不核对连接目标
常见误区
- 误区:直接在生产库上跑高并发压测。正解:可能影响真实用户且难以回退。
- 误区:压测脚本连错环境无防护。正解:目标校验与限流开关必须齐备。
追问
- 问:独立环境规格不够怎么办?答:等比建模保守外推,关键指标上线后小流量复核。
- 问:压测后要核对什么?答:生产错误率、延迟与资源是否受影响,积压是否消化。
05.6.12.3-048 给一个大规模 RAG 场景,如何完成容量规划推演?
频率 ★★★★★ | 难度 高级
一句话结论
按「规模与负载量化 → 数据集压测召回与性能 → 定位瓶颈 → 分片副本与余量规划 → 成本与 SLA 联动 → 归档基准与扩容阈值」给出完整容量结论,并标注假设与验证方式。
概念解释
- 输入:chunk 规模、维度、日增量、峰值 QPS、P99 目标、过滤与多租户、保留周期。
- 测算:单条资源占用、索引放大、副本与缓冲,推算内存磁盘与节点数。
- 验证:真实分布数据集压测 recall、P99、吞吐与资源,定位瓶颈档位。
- 交付:分片副本方案、余量与扩容阈值、降级熔断、成本估算与可复现基准。
原理流程
1) 量化规模/维度/QPS/过滤 2) 真实数据集压测召回与延迟
3) 定位 CPU/内存/IO/队列瓶颈 4) 定分片副本与余量
5) 成本与 SLA 联动 6) 归档基准、扩容阈值与复核计划
代码 / 命令
# 输出物:资源清单(内存/磁盘/CPU/带宽)、分片副本规划、
# 扩容触发阈值、降级方案、成本对比、压测基准与假设条件
# 表达:先讲假设 → 再讲测算与实测 → 最后讲瓶颈对策与容量结论
常见误区
- 误区:只按向量本体算容量。正解:索引放大、副本、查询缓冲与归档都要计入。
- 误区:容量结论无压测支撑。正解:资源模型需用小规模真实数据回填校准。
追问
- 问:峰值突发怎么纳入规划?答:弹性扩容加限流降级,按峰值 QPS 与持续时长预留冗余。
- 问:规划多久复核一次?答:随数据增长与线上基线定期复核,到达阈值触发扩容评估。
参考来源
- Milvus 官方文档:https://milvus.io/docs
- pgvector 仓库:https://github.com/pgvector/pgvector
- Qdrant 官方文档:https://qdrant.tech/documentation/
- Pinecone 官方文档:https://docs.pinecone.io/
- Elasticsearch 向量检索文档:https://www.elastic.co/guide/en/elasticsearch/reference/current/vector-search.html