罗罗编程学习记录
本页内容 展开查看

09.3.1.1 本地缓存实现与淘汰算法

所属:全栈开发面试题库 / 09 高阶架构:高并发与分布式 / 09.3 缓存体系 / 09.3.1 本地缓存与分布式缓存

09.3.1.1-001 什么是本地缓存,放在哪一层?

一句话结论

本地缓存是进程内存中存放热点数据的键值结构,随应用实例同生共死;位于应用进程内部,在分布式缓存与数据库之前承担最近一层的读缓冲,命中时不发起任何网络调用。

概念解释

  • 位置:应用 JVM/进程内存,访问是内存操作,无网络往返。
  • 载体:Guava Cache、Caffeine(Java)、进程内 Map、语言自带 ConcurrentHashMap 等。
  • 边界:缓存只在本实例内有效,多实例之间各自一份副本。

原理流程

请求 → 查本地缓存
  命中:直接返回
  未命中:查分布式缓存 / DB → 回填本地缓存

常见误区

  • 误区:本地缓存就是一个 HashMap。裸 HashMap 无容量控制、无淘汰、无过期,容易撑爆内存。
  • 误区:本地缓存命中率越高越好。命中率受热点分布影响,无上限地堆本地数据会挤占堆内存,触发 GC 压力。

追问

  • 问:本地缓存适合放什么?答:变化低频、读取高频、体量小、可容忍短暂不一致的热点数据。
  • 问:本地缓存失效靠什么?答:TTL 过期 + 写操作事件广播主动删除,不能只靠超时。

09.3.1.1-002 本地缓存与分布式缓存怎么对比?

一句话结论

本地缓存快但实例隔离、容量受单机内存限制;分布式缓存(Redis 等)共享一份数据、容量可水平扩展,但每次访问有网络开销;两者通常组合成多级缓存,而不是二选一。

概念解释

维度 本地缓存 分布式缓存
访问延迟 内存访问,纳秒到微秒级 网络往返,亚毫秒到毫秒级
数据共享 各实例独立副本 全实例共享
容量 受单机堆内存限制 可集群扩展
一致性 副本间存在短暂窗口 单点视图,仍需处理与 DB 一致性
故障影响 丢了只影响本实例 宕机影响全集群

原理流程

先查本地(零网络)→ 未命中查 Redis(网络一次)→ 再未命中查 DB 并逐级回填

常见误区

  • 误区:有了 Redis 就不需要本地缓存。Redis 仍是网络服务,热点 key 每次都走网络会占用连接与带宽,本地副本能削掉这部分流量。
  • 误区:本地缓存可以替代 Redis。本地容量小、副本不共享,无法承担全量热点与跨实例一致视图。

追问

  • 问:两层缓存容量怎么分?答:本地只放极热点小对象,Redis 放大部分可缓存数据,DB 兜底。
  • 问:本地缓存一致性窗口多大?答:取决于广播延迟与 TTL,核心写数据要主动失效,不能只靠本地超时。

09.3.1.1-003 本地缓存有哪些适用场景与风险?

一句话结论

适用:热点读多写少、对象小、可容忍秒级不一致;风险:多实例副本不一致、内存溢出、缓存污染、实例重启丢失,且各实例命中率不同会造成回源不均。

概念解释

  • 适用条件:访问频次高、数据体量可控、更新可通过事件广播感知。
  • 风险一:副本不一致,实例 A 更新后未通知到实例 B,B 仍读旧值。
  • 风险二:无界放入导致堆溢出或频繁 Full GC。
  • 风险三:冷数据占住名额把热数据挤走(缓存污染)。

原理流程

写 DB → 发失效事件 → 各实例收到后删除本地副本
读 → 本地未命中 → 回源并回填

常见误区

  • 误区:本地缓存丢了无所谓。丢失意味着该实例流量全部回源,瞬间打到下游,要靠容量与兜底控制。
  • 误区:所有实例本地缓存内容应该完全一样。热点分布与启动时机不同,副本允许有差异,但关键数据必须能被主动纠正。

追问

  • 问:哪些数据不该放本地缓存?答:强一致要求高、体量大、写频繁、含敏感会话且不能在多副本间扩散的数据。
  • 问:怎么避免内存溢出?答:设最大条目数/权重上限、过期策略、淘汰算法,并监控堆内存与命中率。

09.3.1.1-004 Guava Cache 与 Caffeine 怎么选型?

一句话结论

新项目优先 Caffeine:并发表现更好、内置 W-TinyLFU、异步清理与统计完善;Guava Cache 用于遗留代码兼容,两者 API 思路接近,核心都是容量上限、过期策略与淘汰算法。

概念解释

  • Guava Cache:Google 早期本地缓存,LRU 为主,并发与内存表现一般。
  • Caffeine:基于 W-TinyLFU,高并发下读写性能与命中率更优,提供异步刷新、淘汰监听、统计指标。
  • 选型依据:JDK 版本、依赖现状、并发量、是否需要现代淘汰算法与指标埋点。

原理流程

构建 Cache  → 设定容量/过期/淘汰策略 → get(key, loader) 回填 → 超容量按策略淘汰

常见误区

  • 误区:缓存框架自带就不用管参数。不设上限等于放任内存增长,淘汰策略不匹配热点分布会拉低命中率。
  • 误区:Caffeine 可以替代分布式缓存。它仍是进程内缓存,不提供跨实例共享。

追问

  • 问:Caffeine 为什么性能高?答:近似最优淘汰(W-TinyLFU)、细粒度并发、异步维护队列与惰性清理;底层实现细节以其官方文档为准。
  • 问:迁移 Guava 要注意什么?答:加载/刷新/监听器 API 差异、过期语义对齐,迁移后压测命中率与内存。

09.3.1.1-005 缓存条目由哪些部分组成?

一句话结论

每个条目包含 key、value、写入时间、最后访问时间、过期时间戳、权重(占用大小)等元数据;淘汰与过期判定都基于这些字段,元数据本身也占用内存。

概念解释

  • key:定位条目,需可序列化、可比较。
  • value:缓存对象引用或副本。
  • 时间字段:创建时间、访问时间、过期阈值,用于 expireAfterWrite/expireAfterAccess。
  • 权重:对象估算大小,用于按重量(maximumWeight)淘汰。

原理流程

条目入缓存 → 记录创建/访问时间与权重
访问 → 更新访问时间
过期/超容量 → 淘汰候选按算法选出

常见误区

  • 误区:只存 value 就行。过期判断、淘汰排序、权重统计都依赖元数据,裸 Map 拿不到这些能力。
  • 误区:value 引用的大对象不会被缓存持有。缓存持有引用期间对象不会被 GC,要注意堆占用。

追问

  • 问:权重怎么算?答:按对象字段估算或序列化后字节数;估算口径要稳定,避免权重忽大忽小。
  • 问:条目过期是立即删除吗?答:多数实现是访问时惰性判定 + 后台周期性清理,删除时机不等于 TTL 精确到期。

09.3.1.1-006 容量上限怎么设:条目数与重量?

一句话结论

条目数上限(maximumSize)按条目个数控制;重量上限(maximumWeight)按估算内存占用控制;设上限是为了保证本地缓存不挤占堆内存,淘汰在达到上限后触发。

概念解释

  • maximumSize:最多容纳多少条目,适合大小相近的对象。
  • maximumWeight:先为每个条目算权重,总权重超上限即淘汰,适合大小差异大的对象。
  • 上限依据:单机堆内存预算、可承受 GC 压力、热点数据集估算,不能照搬默认值。

原理流程

放入前算权重 → 总权重 + 条目数逼近上限
  → 淘汰候选 → 腾挪空间 → 继续放入

常见误区

  • 误区:上限设得越大命中率越高。超预算的容量会把缓存变成第二份堆内存,GC 停顿和 OOM 风险上升。
  • 误区:条目大小一致就只看数量。对象内部集合、字符串开销差异仍可能很大,重量口径要结合实际。

追问

  • 问:本地缓存占多少堆内存合适?答:按压测可承受的堆占用比例设定,预留对象、线程、直存数据的空间,余量以 GC 表现为准。
  • 问:上限被持续打满说明什么?答:热点集超过预期,要么扩容/上移到分布式缓存,要么收敛可缓存范围。

09.3.1.1-007 过期策略有哪些写法?

一句话结论

常用过期:写入后固定时长过期(expireAfterWrite)、访问后闲置过期(expireAfterAccess)、定时刷新(refreshAfterWrite);分别对应数据稳定度、闲置清理与主动预热刷新三类需求。

概念解释

  • expireAfterWrite:自写入起固定 TTL,防止旧值长期存在。
  • expireAfterAccess:一段时间未访问才过期,保留热点、清理冷数据。
  • refreshAfterWrite:到期后下次访问触发异步刷新,不阻塞请求返回旧值。
  • 组合:写过期兜底 + 访问过期清理闲置 + 刷新保持热点新鲜度。

原理流程

写入记录 TTL → 访问时判定是否过期
  过期:删除并回源回填
  刷新:异步重算,旧值先返回

常见误区

  • 误区:expireAfterAccess 适合强一致数据。长期被访问的旧值不会过期,写变更仍需主动失效。
  • 误区:刷新和过期是一回事。刷新是异步重建,过期是删除后同步回源,失败影响路径不同。

追问

  • 问:缓存 TTL 设多长?答:按数据可容忍的不一致窗口与更新频率定,关键数据配合主动失效,不建议用统一超大 TTL。
  • 问:刷新失败怎么办?答:保留旧值还是降级由策略定,需要记录刷新失败指标,避免静默 stale。

09.3.1.1-008 淘汰算法有哪些类别?

一句话结论

常见淘汰:FIFO 先进先出、LRU 最近最少使用、LFU 最不经常使用;核心区别是排序依据——入队时间、最近访问时间、历史访问频次;目标都是在容量受限时保留最有价值的数据。

概念解释

  • FIFO:按入缓存顺序淘汰,实现简单但不区分冷热。
  • LRU:淘汰最久未访问的,热点短期有效,抗不住缓存污染。
  • LFU:按访问频次淘汰,冷门数据更易被清,但计数需要衰减机制。
  • 现代实现(Caffeine)在 LFU 思路上做近似与采样,即 W-TinyLFU。

原理流程

超容量 → 按淘汰依据排序 → 选出最差条目 → 删除 → 放入新条目

常见误区

  • 误区:LRU 一定比 FIFO 聪明。LRU 被一次批量遍历污染时,会把真正热点挤出去。
  • 误区:访问频次越高越该留。突发一次的扫描数据频次被记高,LFU 也需要衰减与 admission 控制。

追问

  • 问:淘汰算法解决什么问题?答:在有限内存下最大化命中率,不同算法在热点稳定、突发扫描、冷热交替场景下表现不同。
  • 问:生产里怎么选?答:先看访问模式(周期热点/突发扫描),再用压测对比命中率与内存占用,不靠直觉。

09.3.1.1-009 LRU 怎么用哈希表加双向链表实现?

一句话结论

LRU 用哈希表定位节点,双向链表维护访问次序:链表头为最近使用,尾为最久未用;命中即把节点移到头部,超容量淘汰尾部节点,定位与移动都是 O(1)。

概念解释

  • 哈希表:key → 链表节点引用,O(1) 查找。
  • 双向链表:前驱/后继指针,O(1) 摘除与移动。
  • 头部:刚访问;尾部:候选淘汰。

原理流程(伪代码)

get(key):
  node = table[key]
  if node 存在: 移到链表头; return node.value
  else: 未命中

put(key, value):
  if 已存在: 更新并移到头部
  else:
    新建节点插入头部,写入 table
    if 条目数 > 上限:
      删除链表尾节点,并从 table 移除

常见误区

  • 误区:用单链表就能 O(1) 淘汰。单链表摘除前驱节点需要遍历,双向链表才能直接拿到前驱做删除。
  • 误区:LRU 链表顺序等于时间戳排序。链表是访问次序的近似表达,并发下移动操作要加同步或用并发结构。

追问

  • 问:并发环境怎么做?答:用线程安全的链表/映射结构或分段锁,避免并发移动破坏链表指针;框架实现已处理该细节。
  • 问:淘汰尾部时要注意什么?答:同步从哈希表删除引用,否则出现孤儿节点占用内存。

09.3.1.1-010 LRU 有什么局限?

一句话结论

LRU 只看最近一次访问,抗不住缓存污染(一次性大量冷数据把热点挤走),也无法区分“经常访问”和“偶尔扫过”;长期热点与突发流量混在一起时命中率下降明显。

概念解释

  • 缓存污染:批量扫描/导出任务把大量冷条目刷到链表头部附近,挤占热点名额。
  • 无频次记忆:很久前访问过但近期不再用的数据,凭一次访问就能留在头部附近。
  • 抗抖动弱:访问模式突发变化时,历史价值信息被丢弃。

原理流程

冷数据批量进入 → 占据链表头部/中部
  → 热点被推到尾部 → 被淘汰 → 回源增多

常见误区

  • 误区:LRU 实现了就不会有污染。淘汰顺序只反映最近访问,需要配合容量控制、本地缓存范围收敛来防护。
  • 误区:增大 LRU 容量能解决污染。容量只是延缓,根因是冷数据进入了缓存。

追问

  • 问:怎么减轻污染?答:大查询/批量导出不进缓存,或用频次感知的淘汰算法(W-TinyLFU)。
  • 问:LRU 适合什么访问模式?答:热点稳定、局部性强、没有大规模冷扫描的场景。

09.3.1.1-011 LFU 的原理与计数衰减怎么做?

一句话结论

LFU 按访问频次排序,频次最低的先淘汰;需要频次随时间衰减,否则早期高频旧数据永久占坑;常见做法是周期衰减计数或使用概率计数结构统计近似频次。

概念解释

  • 计数:每条目记录访问次数,越常访问越保留。
  • 衰减:旧高频数据价值下降,计数需要定期打折或重置,避免永久占位。
  • 近似实现:用采样/直方图统计频次,避免为每个条目维护精确计数器的高开销。

原理流程

每次访问 +1 频次
周期:频次整体衰减 / 老化
超容量:淘汰频次最低且最久未用的候选

常见误区

  • 误区:LFU 一定比 LRU 命中率高。突发热点在 LFU 里频次起步低,可能被提前淘汰;两种算法各有胜负场景。
  • 误区:计数越大越不能动。不衰减的 LFU 会把历史明星数据永远留在缓存里,新热点挤不进来。

追问

  • 问:精确计数成本高在哪?答:每条目计数器、排序结构、衰减维护都有开销,高并发下通常用近似计数。
  • 问:频次相同怎么选?答:同频次下再比较最近访问时间,兼顾新旧。

09.3.1.1-012 W-TinyLFU 是什么思路?

一句话结论

W-TinyLFU 是 Caffeine 采用的近似 LFU 淘汰:用小窗口收集新近访问,用概率计数(sketch)估计历史频次,新条目先过 admission 闸门再进入主缓存,兼顾抗污染与新热点接纳。

概念解释

  • 窗口段:短暂保留新近条目,观察其是否真的被反复访问。
  • 频次 sketch:Count-Min 类结构近似统计访问次数,内存占用远低于精确计数表。
  • admission:新条目只有频次达到门槛才进入主缓存,挡住冷扫描。

原理流程

新条目进入窗口 → sketch 统计频次
  超门槛 → 入主缓存,按频次+时间淘汰
  未达门槛 → 直接丢弃,不占用主名额

常见误区

  • 误区:W-TinyLFU 统计是精确次数。它是近似计数,存在小概率误判,目的是用小内存换取接近最优的命中率。
  • 误区:用了现代算法就不用监控命中率。淘汰策略不匹配业务访问模式时仍会低效,需要命中率趋势验证。

追问

  • 问:为什么近似计数能工作?答:热点频次分布通常偏斜,粗粒度频次排序足以把真正高频留下,精度损失可控。
  • 问:Caffeine 调什么参数?答:容量、过期、刷新策略;算法内部结构由框架维护,业务侧重点放容量与数据范围。

09.3.1.1-013 加载缓存(Loading Cache)与回填怎么工作?

一句话结论

加载缓存把“未命中时如何取数”封装进 loader:调用 get 时未命中则同步加载并回填,命中直接返回;加载逻辑要保证回源受控,避免缓存失效瞬间并发回源打爆下游。

概念解释

  • loader:key → value 的回源函数,通常查 Redis 或 DB。
  • 同步加载:未命中线程负责回填,其他线程等待或按策略返回。
  • 并发回填控制:同一 key 只允许一个加载,其余等待结果,避免击穿。

原理流程

get(key, loader):
  命中 → 返回
  未命中 → 占位/加锁 → loader 回源 → 回填 → 返回

常见误区

  • 误区:loader 里直接查库没有并发保护。热点 key 过期瞬间多线程同时回源,等于击穿缓存。
  • 误区:加载失败也写空值。失败回填要区分永久不存在与临时故障,临时失败不应长期占坑。

追问

  • 问:同一 key 并发回源怎么收敛?答:单飞(single flight)/本地锁,只放一个线程回源,其余等结果;分布式场景再配合分布式锁或互斥重建。
  • 问:loader 抛异常怎么处理?答:向上抛出由调用方降级,或缓存空值并设短 TTL,避免异常被静默吞掉。

09.3.1.1-014 缓存淘汰监听与失效通知有什么用?

一句话结论

淘汰/过期监听器在条目被移除时触发回调,可用于记录淘汰原因、同步释放外部资源、上报命中率与丢弃指标;本地缓存被淘汰的条目不会自动通知其他实例,跨实例失效要走消息广播。

概念解释

  • 监听事件:显式删除、过期、淘汰、刷新。
  • 用途:埋点统计、清理关联句柄、输出日志排查命中率。
  • 边界:监听器是本实例内事件,不承担集群同步职责。

原理流程

条目被移除 → 触发监听回调
  → 记录原因与 key 特征 → 指标上报
跨实例:写操作 → 广播消息 → 各实例收到后删本地副本

常见误区

  • 误区:在监听器里做重操作。回调在缓存维护链路中执行,重逻辑会拖慢访问,只做轻量记录与异步上报。
  • 误区:淘汰事件等于数据变更通知。淘汰只是容量行为,业务写变更必须由业务事件主动广播。

追问

  • 问:怎么统计淘汰是否频繁?答:按原因(过期/容量淘汰/显式删除)计数,持续容量淘汰说明上限或热点范围不合理。
  • 问:广播消息丢失怎么办?答:本地 TTL 兜底,关键数据定期对账修正。

09.3.1.1-015 多实例本地缓存怎么保持副本一致?

一句话结论

各实例通过订阅业务失效事件(MQ/配置推送/广播)删除本地副本;写库成功后发出失效消息,订阅方收到后 evict 对应 key;消息可能丢失,因此用短 TTL 与定期对账兜底。

概念解释

  • 失效广播:写操作完成后发布“某 key 变更”事件。
  • 订阅:应用实例消费事件,删除本地缓存副本。
  • 兜底:广播不可靠,本地保留过期 TTL;对账任务发现旧值可纠正。

原理流程

更新 DB → 发布失效事件(key)
  → 各实例订阅 → 删本地副本
  → 下次读回源取新值

常见误区

  • 误区:广播到所有实例就绝对一致。消息丢失、实例刚启动未订阅、处理顺序都可能让副本短暂保留旧值。
  • 误区:本地缓存每次写都全量刷新。逐 key 失效即可,全量推送成本高且放大写流量。

追问

  • 问:事件顺序乱了怎么办?答:事件带版本号或时间戳,旧版本不覆盖新删除;关键状态以 DB 为准。
  • 问:实例很多时广播怎么扩散?答:按订阅分组、利用 MQ 广播或配置中心推送,控制事件量级与投递可靠性。

09.3.1.1-016 本地缓存怎么配合防穿透?

一句话结论

本地层同样缓存“不存在”的空结果并设短 TTL,配合参数校验与布隆过滤器拦截非法 key;空值缓存要与真实结果区分,避免永久屏蔽真实数据后来才写入的场景。

概念解释

  • 空值缓存:查询 DB 也不存在的结果写入本地,短 TTL 后允许重新探测。
  • 布隆过滤:本地或分布式层先判 key 是否可能存在,不存在直接拒绝。
  • 校验入口:非法参数在进入缓存与 DB 前拦截。

原理流程

请求 → 参数校验 → 布隆/空值缓存判定
  不存在 → 返回空,不回源
  可能存在 → 查缓存 → 未命中回源

常见误区

  • 误区:空值缓存设长 TTL。数据稍后被写入时,长 TTL 会让新数据读不到,必须短 TTL 或在写入时主动删空值。
  • 误区:本地布隆过滤器各实例独立即可。多实例独立意味着拦截视图不一致,共享层布隆更适合全量判断。

追问

  • 问:空值要不要记业务标识?答:标注为空值与到期时间,便于排查穿透量和后续主动清除。
  • 问:穿透流量特征是什么?答:大量不同 key 未命中,本地与 Redis 都不命中,请求持续打 DB。

09.3.1.1-017 本地缓存内存溢出有哪些前兆?

一句话结论

前兆:堆占用持续上涨、淘汰频繁却压不下去、GC 频率与停顿上升、命中率不升反降;根因通常是无界放入、value 过大或冷数据未淘汰。

概念解释

  • 内存:缓存占用逼近堆预算,老年代持续增长。
  • GC:频繁 Young GC,甚至 Full GC,停顿影响 RT。
  • 淘汰:容量上限内反复淘汰,说明装入量超过可保留热点集。

原理流程

条目持续进入 → 堆占用上升
  → GC 回收压力增大 → 停顿拉长
  → 淘汰频繁、命中率下降 → 最终 OOM 风险

常见误区

  • 误区:OOM 才说明缓存有问题。GC 停顿上升已经是性能信号,应在容量规划阶段控制上限。
  • 误区:value 是引用就不占堆。集合、字符串等对象被缓存持有时无法回收,引用链要算进内存。

追问

  • 问:怎么定位大对象被缓存持有?答:堆转存分析 Dominator 链,看缓存条目持有的大集合与字符串。
  • 问:容量不够时先做什么?答:收敛可缓存范围、减小 value(摘要/字段裁剪),再考虑上移到分布式缓存。

09.3.1.1-018 本地缓存容量怎么估算?

一句话结论

容量 = 预计保留热点条目数 ×(单条目 key/value 平均大小 + 元数据开销),再按堆内存预算反推可保留条目数;估算基于业务热点样本,上线后用命中率与实际占用校准。

概念解释

  • 条目数:高频访问且值得缓存的 key 集合规模。
  • 单条大小:序列化或对象字段估算,含 key、value、链表/计数元数据。
  • 预算:从单机可用堆内存中扣除其他对象与余量,再分配给缓存。

原理流程(估算式)

单条目估算 ≈ key 大小 + value 大小 + 元数据开销
可保留条目 ≈ 缓存内存预算 / 单条目估算
实际值以压测样本与线上占用为准校准

常见误区

  • 误区:按 value 字节数直接等于内存占用。对象头、集合槽位、引用、元数据都有额外开销,估算偏乐观。
  • 误区:估算一次就固定。热点分布随活动和版本变化,容量要定期复盘。

追问

  • 问:样本怎么取?答:从访问日志统计 top N key 与 value 分布,取均值与分位数,不要只看最大对象。
  • 问:估算结果留多少余量?答:给条目增长与元数据波动留缓冲,生产水位低于估算上限。

09.3.1.1-019 本地缓存压测看哪些口径?

一句话结论

压测要分冷启动与预热后两段:观察命中率、本地占用、GC 表现、未命中回源 RT;预热后再测稳态,避免冷缓存结果误判缓存能力。

概念解释

  • 命中率:命中请求 / 总请求,按预热后稳态统计。
  • 内存:条目数、堆占用、淘汰次数。
  • GC:回收频率与停顿,判断本地缓存是否加重 GC。
  • 回源:未命中时对 Redis/DB 的 QPS 与 RT。

原理流程

预热热点集 → 稳态压测
  → 采集命中率/占用/GC/回源指标
  → 调整容量与过期策略 → 复测

常见误区

  • 误区:冷启动压测结果代表缓存效果。冷缓存命中率天然低,必须先预热再评估。
  • 误区:只看平均 RT。本地缓存命中与未命中 RT 差异大,要分开统计命中率与两路径耗时。

追问

  • 问:压测 value 取值怎么定?答:用生产真实大小样本,避免小对象压出乐观内存结论。
  • 问:怎么验证上限设置合理?答:持续压到热点集超过上限,观察淘汰与命中率拐点,确认容量预算边界。

09.3.1.1-020 本地缓存落地要写哪些规则?

一句话结论

落地规则:明确可缓存数据范围与不可缓存清单、设容量上限与过期策略、埋点命中率与淘汰指标、封装统一访问入口、关键写事件主动失效;任何一条缺失都会让本地缓存变成隐患。

概念解释

  • 范围:什么数据能进缓存、TTL 口径、空值处理。
  • 约束:容量、淘汰、序列化、异常降级。
  • 可观测:命中率、回源 QPS、占用、淘汰原因。

原理流程

封装 Cache 组件 → 统一 get/put/evict
  → 入口做穿透保护与埋点
  → 写事件接失效广播
  → 指标上报与定期巡检

常见误区

  • 误区:各处代码直接 new 缓存。分散实现会导致容量、过期、监控口径不一致,问题难以排查。
  • 误区:上线后不再复盘。热点与数据结构会变化,低命中率、大对象、无 TTL 条目要定期巡检清理。

追问

  • 问:缓存组件对外暴露什么接口?答:按业务语义提供 get/put/invalidate,内部封装 loader、保护与指标,不让业务直接操作底层结构。
  • 问:哪些数据必须走统一封装而非私有缓存?答:热点公共数据;私有临时状态不放入共享缓存组件,避免互相污染。