09.3.1.4 缓存容量规划与监控指标
所属:全栈开发面试题库 / 09 高阶架构:高并发与分布式 / 09.3 缓存体系 / 09.3.1 本地缓存与分布式缓存
09.3.1.4-001 缓存命中率怎么定义和计算?
一句话结论
命中率 = 命中次数 /(命中次数 + 未命中次数);Redis 侧用 INFO stats 的 keyspace_hits 与 keyspace_misses,业务侧按自身缓存入口统计;命中率反映缓存分担回源的比例,是容量与策略是否合理的核心指标。
概念解释
- hits:查询命中缓存的次数。
- misses:未命中、需要回源的次数。
- 口径:按接口/业务域分开统计,避免整体均值掩盖局部低命中。
原理流程(计算式)
命中率 = keyspace_hits / (keyspace_hits + keyspace_misses)
回源率 = misses / (hits + misses)
按时间窗口统计,区分冷启动期与稳态期
常见误区
- 误区:命中率 99% 就没问题。要看未命中的是不是核心热点,少量未命中若集中在大 key 或 DB 重查询,回源压力仍可能很大。
- 误区:只看全天平均命中率。活动期、热点切换期的分钟级下跌更能暴露问题,要看趋势曲线。
追问
- 问:本地缓存命中率怎么统计?答:在统一封装的 get 入口分别计数命中与未命中,按实例聚合,避免各实例口径不一。
- 问:命中率目标定多少?答:结合回源能力与数据可缓存比例设定,不同业务域目标不同,不拍脑袋统一百分比。
09.3.1.4-002 命中率低怎么排查?
一句话结论
按路径排查:key 是否被正确写入与过期、热点集是否超过容量被淘汰、TTL 是否过短、是否存在穿透类不存在 key、value 是否过大被拆/挤;先看命中率分域分布,再定位是容量问题、过期问题还是数据问题。
概念解释
- 容量:evicted_keys 持续增长,热点被挤出。
- 过期:TTL 过短或批量同时失效。
- 数据:key 不一致、序列化格式不匹配、空值/非法 key 穿透。
- 结构:大对象拆分后查询 key 对不上。
原理流程
命中率下跌 → 分域/分 key 看未命中分布
→ 查淘汰数、过期数、TTL、value 大小
→ 抽样回源链路验证 key 与序列化
常见误区
- 误区:命中率低就加内存。若根因是 TTL 过短或 key 设计错误,加内存只是延缓,未解决回源逻辑问题。
- 误区:未命中都是缓存没存。序列化不一致、key 拼接错误、读从库旧值也会表现为未命中。
追问
- 问:怎么定位低命中的具体 key?答:抽样访问日志统计未命中 top key,结合 SLOWLOG 与回源慢查询核对。
- 问:新上线功能命中率低正常吗?答:冷启动期低命中正常,预热后稳态仍低才需要排查。
09.3.1.4-003 缓存容量怎么按 key 规模估算?
一句话结论
缓存内存 ≈ 预计保留 key 数 ×(key 平均长度 + value 平均大小 + 元数据开销)× 结构系数,再加上碎片与增长余量;估算基于热点样本,上线后用 used_memory 与实际条目数校准。
概念解释
- key 数:稳态值得保留的热点条目,不是全量数据库行数。
- 单条成本:key 字符串、value 序列化大小、对象头与字典槽位。
- 余量:碎片率、版本增长、故障切换承载。
原理流程(估算式)
单条 ≈ keyLen + valueLen + 元数据
主内存 ≈ 保留条目数 × 单条 × 结构系数
含副本与冗余:总内存 = 主内存 × (1 + 副本数) × 冗余系数
常见误区
- 误区:按 DB 数据总行数估缓存容量。缓存只保留热点子集,全量估算会严重高估;反之忽略元数据会低估。
- 误区:估算值就是生产上限。生产水位应低于估算上限,留增长与碎片缓冲。
追问
- 问:value 平均大小怎么取?答:从线上样本取均值与分位数,大对象单独评估,不要用最大对象代表平均。
- 问:条目数增长怎么预估?答:结合业务规模增长曲线与可缓存范围变化,按季度复盘调整。
09.3.1.4-004 元数据开销占多少?
一句话结论
元数据包括 key 字符串、对象头、字典槽位、过期与访问统计字段;小 value 场景元数据占比可能超过 value 本身,因此合并小条目、缩短 key、减少 key 总数是降低内存的有效手段。
概念解释
- 固定开销:每个条目的对象结构与统计字段。
- 字典开销:哈希表槽位与链/转发表。
- 优化:短 key、紧凑序列化、同对象字段合并为 Hash。
原理流程
条目数越多 → 元数据固定开销累加
→ 小 value 时元数据占比升高
→ 合并条目/缩短 key 降低条数
常见误区
- 误区:value 压缩了内存就够。key 过长、条目过碎带来的元数据开销可能比 value 还大。
- 误区:Hash 一定比多个 String 省。字段过多的 Hash 同样有结构开销,要结合元素规模评估。
追问
- 问:怎么量化元数据占比?答:对比 MEMORY USAGE 的总占用与 value 字节长度,样本多 key 取平均。
- 问:key 命名能多长?答:在可读前提下尽量短,业务前缀+标识即可,避免冗长描述拼进 key。
09.3.1.4-005 内存水位线怎么设?
一句话结论
设一个告警水位(如接近 maxmemory 的一定比例)与上限水位:到达告警水位触发扩容/清理评估,到达上限触发淘汰或写拒绝;水位依据碎片率、增长趋势与故障冗余设定,不是拍一个固定百分比。
概念解释
- 告警水位:提前预警,留出扩容与迁移时间。
- 上限:maxmemory 硬限制,达到后按淘汰策略处理。
- 冗余:单节点故障时其余节点能接住槽位数据。
原理流程
used_memory 持续上升
→ 触告警水位:评估扩容/收敛缓存范围
→ 触 maxmemory:淘汰或拒绝写
常见误区
- 误区:水位到 100% 才处理。淘汰开始时热点数据已被挤出,回源压力同步上升,预警必须提前。
- 误区:所有节点用同一水位线。槽位分布不均时个别节点先到水位,要看单节点水位而非集群总量。
追问
- 问:告警水位定多少合适?答:结合增长速率与扩容周期,保证告警后有时间处置;具体比例按业务压测与历史趋势定。
- 问:水位高但命中率低说明什么?答:装入了不该缓存的冷数据,应清理范围而非盲目扩容。
09.3.1.4-006 内存淘汰对性能和数据有什么影响?
一句话结论
淘汰释放内存但被清条目下次访问要回源,造成命中率下降与回源 QPS 上升;持续淘汰说明容量不足或缓存范围失控,频繁淘汰还伴随查找候选的 CPU 开销,需要区分容量问题与策略问题。
概念解释
- 数据影响:被淘汰 key 丢失,回源重建。
- 性能影响:回源增加 DB 压力与 RT,淘汰候选计算占 CPU。
- 信号:evicted_keys 持续增长是容量告警。
原理流程
内存达上限 → 按策略选条目淘汰
→ 该 key 下次请求回源
→ 回源 QPS 上升 → DB/RT 压力增大
常见误区
- 误区:淘汰等于自动扩容。淘汰是被动清数据,不增加承载能力,热点被反复清掉会形成“淘汰-回源-再装入”的抖动。
- 误区:evicted 计数不重要。持续增长的淘汰是容量不足的直接证据,比内存百分比更早暴露问题。
追问
- 问:淘汰频繁时先做什么?答:确认是否冷数据占坑,收敛可缓存范围;热点集确实增长再扩内存/节点。
- 问:淘汰策略选错会怎样?答:用 volatile-* 淘汰时热点无 TTL 条目不会被清,候选范围受限,命中率与行为偏离预期。
09.3.1.4-007 SLOWLOG 怎么用?
一句话结论
SLOWLOG 记录执行耗时超过阈值的命令,用 SLOWLOG GET N 查看最近慢命令、SLOWLOG LEN 看条数、SLOWLOG RESET 清空;用于定位大 key 操作、O(n) 命令与慢脚本,阈值按命令耗时口径配置。
概念解释
- 慢命令:执行时间超过 slowlog-log-slower-than 配置的命令(不含网络与排队时间)。
- 字段:时间戳、耗时、命令与参数、客户端信息。
- 定位:按命令类型与 key 找出阻塞来源。
原理流程
命令执行 → 耗时超阈值 → 记入慢日志
→ SLOWLOG GET 查看命令与耗时
→ 对应大 key / O(n) 命令做拆分或限流
常见误区
- 误区:SLOWLOG 慢 = 客户端感知慢。慢日志只统计命令在服务端的执行耗时,网络、排队、客户端排队不计入。
- 误区:慢日志永久保存。它是环形缓冲,条数有上限,要及时采集到监控系统。
追问
- 问:慢命令阈值怎么定?答:按正常命令耗时分布设,先观察基线再定阈值,不要一开始设到极严导致刷屏。
- 问:哪些命令容易进慢日志?答:大 key 的 HGETALL/SMEMBERS/LRANGE、大范围 KEYS、长 Lua 循环。
09.3.1.4-008 命令时间复杂度怎么排查?
一句话结论
先确认命令本身复杂度(O(1)/O(n)/O(log n)),再结合操作元素规模判断实际耗时;集合类命令的 n 是元素个数,大集合上的 O(n) 命令即使算法简单也会阻塞主线程。
概念解释
- O(1):按 key 直接操作,如 GET/SET/HGET。
- O(n):遍历集合元素,全量返回/统计类命令。
- 规模:n 的实际大小来自集合长度,要结合大 key 监控。
原理流程
慢命令 → 看命令类型复杂度
→ 查目标集合元素数
→ 元素大:拆分/分批/换命令
→ 元素小:排查阻塞源(持久化、大 key 删除)
常见误区
- 误区:命令名常见就一定快。SMEMBERS、HGETALL 这类常用命令在大集合上是 O(n),规模决定实际耗时。
- 误区:复杂度高就不能用。控制元素规模或分批获取,复杂度是相对 n 而言。
追问
- 问:批量命令怎么避免一次拉全量?答:用 SCAN 类游标分批遍历,限制每批数量;不要用 KEYS 全量扫描。
- 问:怎么看集合长度?答:HLEN/LLEN/SCARD/ZCARD 先评估规模,再决定是否操作。
09.3.1.4-009 缓存 QPS、RT、连接数怎么监控?
一句话结论
QPS 看 commands/sec 与读写分布,RT 分命令类型统计服务端耗时,连接数看客户端连接占用;指标按节点与业务域拆分,结合命中率判断缓存是否成为瓶颈,连接数异常要排查泄漏与池配置。
概念解释
- QPS:INFO stats 的命令计数速率,读多还是写多。
- RT:命令执行耗时分布,慢命令占比。
- 连接:connected_clients 与连接池配置,连接泄漏会耗尽连接。
原理流程
采集命令速率 / 耗时分布 / 连接数
→ 按节点、命令类型拆分
→ 结合命中率与下游 RT 判断瓶颈层级
常见误区
- 误区:只看整体 QPS。单个热点节点或大 key 命令可能被均值掩盖,要分节点分命令看。
- 误区:连接数低就没风险。连接池配置过小会导致排队,配置过大占满 Redis 连接上限,要匹配并发与实例数。
追问
- 问:Redis RT 高先查什么?答:慢命令、大 key、持久化 fork、内存碎片与交换;区分服务端耗时与网络往返。
- 问:连接数怎么估算?答:应用实例数 × 每实例连接池大小,总和留余量,低于 maxclients。
09.3.1.4-010 大 key 怎么影响缓存性能?
一句话结论
大 key 的读写占用单次命令时间、网络带宽与主线程,删除/重编码阻塞更明显;它还让槽位数据倾斜,单节点被打满;发现大 key 要拆分、渐进删除或改造数据结构。
概念解释
- 阻塞:O(n) 操作在主线程内完成,期间其他命令排队。
- 网络:一次返回大量元素放大带宽与序列化成本。
- 倾斜:单槽数据量与访问量集中到一个主节点。
原理流程
大 key 被访问 → 单次操作遍历海量元素
→ 主线程耗时 + 带宽占用
→ 删除/编码转换时阻塞更明显
常见误区
- 误区:大 key 只是占内存。阻塞与网络倾斜对在线 RT 的影响往往比内存本身更严重。
- 误区:删除大 key 很快。同步删除回收大量内存可能卡住主线程,应使用异步/分批方式。
追问
- 问:怎么定义大 key?答:按 value 字节数与集合元素数量双口径,具体阈值按业务与节点能力定,不记死数字。
- 问:大 key 拆分方向?答:按业务标识分片成多个小 key,或只缓存摘要字段,原始数据留 DB。
09.3.1.4-011 碎片率 mem_fragmentation_ratio 怎么读?
一句话结论
碎片率 = used_memory_rss / used_memory;约等于 1 表示分配紧凑,明显大于 1 说明内存碎片或分配器保留,过小(小于 1)可能是 RSS 不足、换出或分配异常;结合趋势判断,不孤立看单次值。
概念解释
- used_memory:Redis 逻辑申请的内存。
- rss:操作系统驻留物理内存。
- 碎片:分配器按块分配留下的闲置空隙,释放后不一定立刻归还系统。
原理流程
rss ≈ used_memory → 比值接近 1,分配紧凑
rss 明显 > used → 碎片/保留内存
rss < used → 可能内存不足被换出,需排查
常见误区
- 误区:碎片率大于 1 就是内存泄漏。分配器缓存、刚释放未归还的页面都会抬高 rss,要看是否持续走高。
- 误区:碎片率低就一定好。小于 1 伴随内存压力时反而是危险信号。
追问
- 问:碎片严重怎么处理?答:先看数据是否可重建、是否有大量短命大 key;必要时在低峰做实例迁移/重启整理,具体以运维方案为准。
- 问:哪些行为抬高碎片?答:频繁创建释放大对象、集合反复扩容缩容、不同大小对象混杂分配。
09.3.1.4-012 什么数据该进缓存,什么不该进?
一句话结论
适合缓存:读多写少、可容忍短暂不一致、能从 DB 重建、体量可控;不适合:强一致实时状态、超大对象、写频繁、生命周期短或无法重建的唯一状态;进缓存前评估访问频次、一致性要求与重建成本。
概念解释
- 可缓存判据:访问频率、更新频率、一致性窗口、可重建性、大小。
- 排除项:会话临时状态、事务中间态、唯一权威数据、大对象全集。
- 决策:先问“缓存失效后能否从 DB 恢复”,不能恢复就不要只放缓存。
原理流程
评估数据:读频 / 写频 / 一致性 / 大小 / 可重建
→ 满足条件 → 纳入缓存范围
→ 不满足 → 留 DB 或专用存储
常见误区
- 误区:凡是读都缓存。写频繁的数据缓存命中率低且一致性窗口风险大,维护成本高于收益。
- 误区:缓存存一份就不用担心丢失。不可重建的数据放缓存等于把它变成唯一副本,风险转移到缓存可用性上。
追问
- 问:强一致数据能不能缓存?答:可缓存只读快照并配合主动失效与版本校验,不能把缓存当作权威读写源。
- 问:大对象怎么决定?答:拆分出展示需要的小字段缓存,原始大对象留在 DB/对象存储。
09.3.1.4-013 预热容量与启动加载怎么评估?
一句话结论
预热要装入的热点集大小决定启动加载时间与 DB 回源压力;按热点条目数 × 单条大小估算预热写入量,分批限速加载;预热期间命中率未达标前控制对外流量,避免冷缓存直接承接全量请求。
概念解释
- 预热规模:top N key 与对应 value 体量。
- 加载节奏:分批回源 DB 写入缓存,控制 DB 读取与缓存写入速率。
- 放量条件:命中率与回源 QPS 进入可承受区间。
原理流程(估算式)
预热内存 = 预热条目数 × 单条平均大小
预热耗时 ≈ 预热写入量 / 允许的加载速率
DB 读取 QPS = 预热条目数 / 预热窗口时长,需低于 DB 安全水位
常见误区
- 误区:预热越多启动越快。全量预热拉长启动时间并压 DB,只需装稳态热点集。
- 误区:预热一次后无需维护。热点变化后要更新预热名单,冷数据仍会被自然淘汰。
追问
- 问:预热名单怎么生成?答:历史访问日志统计 top key,结合业务活动名单与离线画像。
- 问:预热失败怎么兜底?答:未命中自然回源,配合限流降级,不阻塞实例启动。
09.3.1.4-014 多实例/多机房缓存容量怎么分摊?
一句话结论
单实例内存与 QPS 有上限,按热点总量均摊到多个主节点,槽位/分片保证数据与访问分散;多机房各有本地副本,跨机房复制延迟要纳入一致性评估;容量规划要包含单实例故障时的重分摊冗余。
概念解释
- 分片均摊:key 总量与访问量按节点能力分配。
- 故障冗余:一台主宕机,其余节点接纳其槽位。
- 多机房:本地缓存就近访问,跨机房同步副本接受延迟。
原理流程
总热点量 ÷ 单实例安全承载 = 所需主节点数
→ 加副本与故障冗余系数
→ 多机房:本地副本 + 跨机房复制策略
常见误区
- 误区:加节点自动均衡。分片设计不当会出现热点槽倾斜,需要监控各节点数据量与 QPS 分布。
- 误区:多机房副本实时一致。跨机房网络延迟决定复制窗口,关键读要明确一致性策略。
追问
- 问:单实例承载上限怎么定?答:压测得出的内存水位、QPS、RT 安全值,不是标称配置。
- 问:热点不均怎么发现?答:对比各节点内存、QPS、连接与慢命令分布,倾斜时拆分热点 key。
09.3.1.4-015 命中率目标和业务 SLA 什么关系?
一句话结论
命中率决定回源比例,回源比例直接影响 DB QPS 与接口 RT;SLA 规定了可接受的 RT 与可用性,据此反推命中率下限与回源上限;不同链路按 DB 承受能力分别定目标,而不是统一一个数字。
概念解释
- 回源 QPS ≈ 总请求 QPS × (1 − 命中率)。
- DB 安全水位决定可承受回源上限,再反推命中率下限。
- 核心链路目标高于展示链路。
原理流程(推导式)
回源 QPS = 入口 QPS × (1 − 命中率)
要求回源 QPS ≤ DB 安全水位
→ 命中率下限 ≥ 1 − DB安全水位 / 入口QPS
常见误区
- 误区:命中率越高 SLA 越好。命中率高但回源的都是重查询,RT 仍可能超标;要结合回源语句成本评估。
- 误区:SLA 只看在线 RT。缓存失效引发的 DB 抖动会放大 RT 长尾,要按 P99 评估。
追问
- 问:怎么验证命中率目标合理?答:压测不同命中率下的回源 QPS 与 RT,找到满足 SLA 的拐点。
- 问:命中率低于目标怎么办?答:先定位未命中来源(容量/TTL/穿透),再决定扩容或调策略。
09.3.1.4-016 告警阈值怎么定才不拍脑袋?
一句话结论
阈值基于历史基线与压测结论:内存水位按增长速率和扩容周期定,命中率按回源上限反推,延迟按 SLA 长尾定;先观察基线分布,再设预警与严重两级阈值,并随版本和业务复盘调整。
概念解释
- 基线:正常时段各指标的分布区间。
- 两级:预警(有处置时间)与严重(立即影响业务)。
- 依据:容量增长、DB 水位、RT SLA、故障冗余。
原理流程
采集历史基线 → 结合压测安全水位
→ 设预警阈值与严重阈值
→ 告警后复盘准确率 → 调整阈值
常见误区
- 误区:照搬网上通用百分比。业务体量、下游能力不同,通用阈值不适用。
- 误区:阈值设了不再改。业务增长后基线变化,阈值要定期校准,避免告警泛滥或漏报。
追问
- 问:命中率告警怎么分级?答:短时下跌预警,持续低于下限并伴随回源上升为严重,结合 DB 水位判定。
- 问:阈值误报多怎么办?答:先看基线是否稳定,按时间窗口与持续时长过滤抖动,而不是直接关告警。
09.3.1.4-017 容量增长后扩展路径是什么?
一句话结论
先垂直提升单实例能力(内存/规格)有上限,水平扩展加节点并迁移槽位/分片;扩展前确认无状态化、热点可分散、下游能承受新增连接;容量规划随业务季度复盘,提前一个扩容周期准备。
概念解释
- 垂直:单机升配,受硬件与单机瓶颈限制。
- 水平:加节点分散数据与流量,需要分片与迁移能力。
- 前置:本地缓存副本数、连接池、下游配额同步评估。
原理流程
容量增长 → 单机水位逼近上限
→ 评估垂直上限 → 水平加节点
→ 迁移数据/槽位 → 校验均衡与命中率
常见误区
- 误区:缓存扩容只加 Redis 节点。新增连接打到 DB、下游连接池配额也要同步评估,否则缓存侧扩了下游先饱和。
- 误区:扩容可以临时救火。故障前没预留容量,临时加节点还需迁移与预热,周期内只能靠限流降级。
追问
- 问:什么时候该水平扩展?答:单节点内存/QPS 到安全水位且垂直提升空间有限,热点可分片分散。
- 问:扩容后观察什么?答:槽位均衡、各节点 QPS/内存、命中率、复制状态与客户端路由。
09.3.1.4-018 穿透流量对内存和指标有什么影响?
一句话结论
穿透是大量查询不存在的数据,未命中流量直打 DB;若把空值写入缓存会占用内存,布隆过滤可拦截非法 key;监控要区分“未命中热点”与“穿透扫描”,后者通常 key 离散、命中率极低且持续打 DB。
概念解释
- 特征:key 高度离散、miss 占比极高、DB 被无效查询打满。
- 内存:空值缓存条目占用槽位,需短 TTL 控制。
- 防护:参数校验、布隆过滤器、空值短缓存。
原理流程
非法/不存在 key 涌入
→ 缓存未命中 → 直达 DB
→ 空值回写短 TTL / 布隆拦截
→ 指标:离散 key 占比、miss 率、DB 无效 QPS
常见误区
- 误区:未命中多就是容量不够。穿透类未命中增加缓存条目也留不住,根因是非法请求或数据不存在。
- 误区:空值缓存可以长期保留。不存在的数据后来可能被创建,长 TTL 会屏蔽新数据,必须短过期或写入时清除。
追问
- 问:怎么区分正常未命中与穿透?答:看未命中 key 的离散度、是否重复访问、DB 查询结果是否为空;扫描类穿透 key 基本不重复。
- 问:布隆过滤器放哪?答:本地或分布式共享层均可,按 key 全集规模与拦截需求选。
09.3.1.4-019 缓存压测要测哪些口径?
一句话结论
压测分冷启动预热与稳态两段,测命中率、内存占用、QPS/RT 分布、慢命令、复制延迟与故障表现;value 用生产真实大小样本,并发模型贴近线上;压测结果作为容量与阈值依据,不用标称值替代实测。
概念解释
- 数据:真实 key 分布与 value 大小,避免小对象乐观结论。
- 阶段:预热后再测稳态;冷启动单独观察回源压力。
- 指标:命中率、内存、RT 分位、慢命令、连接、故障切换。
原理流程
构造样本与并发模型 → 预热
→ 稳态压测采集命中率/内存/RT/慢命令
→ 故障注入观察兜底与恢复
→ 输出安全水位与容量结论
常见误区
- 误区:压测只测 GET。写命令、过期删除、大 key 操作与复制场景同样要覆盖。
- 误区:一次压测结果永久有效。版本、数据结构、访问模式变化后要复测。
追问
- 问:怎么模拟热点?答:按线上访问分布构造 key 权重,热点集中访问而非均匀随机。
- 问:压测拐点怎么取?答:RT 分位与错误率开始明显上升、内存逼近水位前的安全值作为单机能力。
09.3.1.4-020 容量复盘要看哪些长期指标?
一句话结论
周期复盘:条目数与内存增长趋势、命中率趋势、淘汰/过期计数、大 key 清单、慢命令分布、回源 DB QPS;把指标和业务增长对照,判断容量是否需要调整、缓存范围是否需要收敛或拆分。
概念解释
- 趋势:内存与条目数随业务增长曲线。
- 质量:命中率、淘汰、大 key、慢命令。
- 联动:回源压力与 DB 容量、接口 RT 的关系。
原理流程
周期汇总指标 → 对照业务增长与基线
→ 识别容量缺口/低命中/大 key 问题
→ 输出扩容、拆分、清理或策略调整项
常见误区
- 误区:上线后只看实时告警。长期趋势不看,容量缺口会在活动前集中暴露。
- 误区:复盘只看 Redis 自身。回源到 DB 的压力、接口长尾也要一起评估,缓存不是孤立系统。
追问
- 问:复盘频率怎么定?答:常规按周/月看趋势,大促前做专项容量评估。
- 问:复盘输出什么?答:容量结论、待治理 key 清单、阈值调整建议与下一步动作责任人。