06.2.3.4 熔断限流与容错
所属:全栈开发面试题库 / 06 后端框架与工程实践 / 06.2 Java Spring 生态 / 06.2.3 Spring Cloud
本节要解决的问题
- Sentinel 限流槽链、滑动窗口与流控效果如何工作,限流阈值怎么定?
- 熔断器三状态机如何切换,慢调用/异常比例规则怎么触发?
- 雪崩如何分层治理,线程池/信号量隔离、分布式限流与兜底降级如何配合?
版本前提:Spring Cloud 2023.x / Spring Boot 3.x / Java 17+;Sentinel 规则与状态以官方文档为准。
06.2.3.4-001 Sentinel 限流原理是什么?
一句话结论
资源调用进入 ProcessorSlotChain 责任链,流控槽按滑动窗口统计当前 QPS/并发数,对照流控规则判断是否通过;超过阈值按流控效果快速失败、预热或排队等待处理,超出部分返回限流响应。
概念解释
Sentinel 以资源为粒度做实时防护:统计槽采集入口/出口指标,流控槽、熔断槽在链上依次判定;规则可配置 QPS、并发线程数、关联链路与来源,动态推送至客户端。
示例
@SentinelResource(value = "orderCreate",
blockHandler = "createBlocked",
fallback = "createFallback")
public OrderDTO create(OrderRequest req) { ... }
常见误区
- 以为限流只压入口:内部核心资源也应配规则,防止上游绕过入口直接打穿。
- 规则只在代码写死:生产应动态推送规则,无需重启调整阈值。
追问
- Sentinel 与 Hystrix 定位差异?Hystrix 已停止维护,Sentinel 覆盖限流、熔断、系统保护与动态规则;Resilience4j 是另一轻量替代。
- 限流阈值从哪里来?压测得到下游容量上限,按安全余量设定,不是拍脑袋。
06.2.3.4-002 熔断降级状态机是怎样的?
一句话结论
熔断器分关闭(CLOSED,正常放行)、打开(OPEN,直接拒绝)、半开(HALF_OPEN,放行少量探测)三态;统计慢调用比例或异常数达到阈值进入 OPEN,冷却期后转 HALF_OPEN,探测成功回 CLOSED,失败回 OPEN。
状态流转
CLOSED ── 慢调用/异常达阈值 ──► OPEN
▲ │ 冷却期结束
│ 探测成功 ▼
HALF_OPEN ◄─────────────────── HALF_OPEN 探测失败
│ 探测失败 → OPEN
概念解释
熔断防止持续打向已故障的下游,给下游恢复时间;半开探测避免熔断期间永久不可用。触发规则可基于慢调用比例、异常比例、异常数。
常见误区
- 熔断后永久拒绝:缺少半开探测,下游恢复后仍不可用。
- 只看异常数不看慢调用:下游响应越来越慢拖垮线程,慢调用规则同样要配。
追问
- 冷却期怎么定?按下游恢复时间设,太短反复探测,太长恢复慢。
- 半开放多少探测请求?少量请求验证健康,成功再逐步放开。
06.2.3.4-003 什么是雪崩?如何分层治理?
一句话结论
雪崩是下游故障逐层向上传导:线程被慢调用占满、级联超时重试放大流量,最终整个调用链不可用;治理按「限流入口 → 熔断隔离 → 超时兜底 → 降级缓存 → 容量舱壁」分层防护。
概念解释
雪崩根因通常是超时不收敛、无隔离、重试放大、下游故障未隔离。治理目标:单一下游故障不拖垮整机,故障域内缩,保留核心链路能力。
常见误区
- 只靠入口限流防雪崩:内部调用链无隔离,慢下游仍占满线程。
- 故障时没有降级兜底:所有请求阻塞等待,连锁不可用。
追问
- 雪崩与宕机区别?雪崩是级联不可用,单个宕机是局部故障,治理不当会演化为雪崩。
- 核心链路如何保?优先给核心链路分配线程/容量舱壁,非核心功能降级关闭。
06.2.3.4-004 分布式限流有哪些方案?
一句话结论
单机限流保护单实例,分布式限流在集群维度共享计数:常见令牌服务器(Sentinel Token Server)、Redis Lua 计数/令牌桶、网关集中限流;按一致性要求选方案,注意网络开销与计数误差。
对比
| 方案 | 计数位置 | 一致性 | 适用 |
|---|---|---|---|
| 单机内存限流 | 实例本地 | 不共享 | 单实例兜底 |
| Redis Lua 令牌桶 | 共享存储 | 近似 | 集群总 QPS |
| Sentinel Token Server | 独立 token 服务 | 中心化配额 | 集群流控 |
| 网关集中限流 | 入口代理 | 集中 | 南北向总入口 |
常见误区
- 用单机限流配额乘以实例数估算集群总量:实例动态伸缩时配额不准。
- 分布式限流忽略 Redis 故障:共享计数不可用时要降级为单机限流或拒绝。
追问
- Redis 计数为什么用 Lua?保证「读取 + 扣减」原子执行,避免并发下计数超发。
- 分布式限流误差来源?网络延迟、计数窗口同步、本地缓存预取,接受近似配额。
06.2.3.4-005 Sentinel 槽责任链(ProcessorSlotChain)如何组织?
一句话结论
每个资源调用依次经过统计节点、流控槽、熔断槽、系统保护槽等处理器;槽按顺序串联,前一槽判定不通过则直接拒绝,后续槽与业务不再执行。
概念解释
责任链把不同防护职责解耦:统计采集指标,流控判 QPS/并发,熔断判健康状态,系统保护判整体负载。新增规则类型对应插入新槽。
常见误区
- 把统计逻辑写进业务代码:槽链统一采集,规则调整不影响业务。
- 槽顺序错乱:未统计就判定,或熔断晚于流控执行,结果不可预期。
追问
- 槽链如何扩展?实现
Slot接口并注册到链上,自定义指标与判定逻辑。 - 资源入口在什么位置埋点?
@SentinelResource或手动Entry,覆盖核心业务方法。
06.2.3.4-006 LeapArray 滑动窗口如何统计指标?
一句话结论
把统计周期切成多个时间片(窗口),当前片计数累加,窗口滑动时丢弃过期片、复用旧片重置;指标按有效窗口聚合,避免固定窗口临界突刺。
概念解释
滑动窗口用数组槽位承载计数,按时间戳定位当前片,过期片在复用时清零。相比固定窗口,窗口边界平滑,QPS 统计更接近实时分布。
常见误区
- 以为计数是整段周期累加:滑动窗口只统计当前有效时间片内的数据。
- 窗口长度与样本点配置不当:片太细开销大,太粗统计不灵敏。
追问
- 窗口大小怎么选?按规则统计粒度(秒级 QPS)设置,片数保证平滑度。
- 指标过期数据何时清理?复用时重置槽位,不主动后台扫描。
06.2.3.4-007 流控效果:快速失败、预热、排队等待有何区别?
一句话结论
快速失败:超阈值直接拒绝;预热(Warm Up):冷启动阈值从低逐步升到稳态,防冷流量打爆;排队等待:请求匀速通过,超出队列长度拒绝,适合削峰填谷。
对比
| 效果 | 行为 | 适用 |
|---|---|---|
| 快速失败 | 立即返回限流 | 突发流量可丢弃的接口 |
| 预热 | 阈值渐升 | 刚启动、缓存冷的服务 |
| 排队等待 | 匀速放行 + 等待队列 | 可短时排队的任务类接口 |
常见误区
- 排队等待用于强实时接口:请求排队累积,响应超时反而更糟。
- 预热时长不足:系统还没热身就按满阈值放行。
追问
- 队列长度与超时怎么配?按可接受排队时延设,超长等待直接拒绝。
- 预热期间阈值如何爬升?按冷启动因子逐步放大,到达稳态阈值保持。
06.2.3.4-008 QPS 限流与并发线程数限流如何选择?
一句话结论
QPS 限流控制每秒通过请求数,适合按吞吐防护;并发线程数限流控制同时占用的执行线程数,适合防慢调用占满线程;两者可同时配置。
概念解释
QPS 看速率,并发数看在途请求。慢下游导致单请求耗时变长时,QPS 仍可能达标但线程早已占满,此时并发线程数规则是关键补充。
常见误区
- 只配 QPS:下游变慢后并发堆积,线程池耗尽。
- 并发阈值按线程池大小直接照搬:还要留线程给其他资源。
追问
- 接口耗时与并发关系?并发数 ≈ QPS × 平均耗时,耗时上升会放大并发占用。
- 线程数限流在哪里计数?资源入口统计当前占用线程,退出时释放。
06.2.3.4-009 集群流控 Token Server 如何工作?
一句话结论
客户端向独立 Token Server 申请配额,服务端按集群总配额统一发 token;客户端持有少量缓存令牌应对突发,耗尽再申请;集群流控保证全集群不超过总配额。
概念解释
单机规则各自计数,集群规则由中心化服务分配配额。Token Server 故障时降级策略需提前定义(本地兜底或拒绝)。
常见误区
- 把 Token Server 又做成单点无高可用:集群流控依赖其可用性。
- 本地预取令牌过多:短时超过集群配额,计数不准。
追问
- 集群配额如何按服务拆分?服务维度分配总额度,实例从所属额度申请。
- Token Server 网络抖动怎么办?设置申请超时与本地兜底策略,避免全部阻塞。
06.2.3.4-010 熔断规则:慢调用比例、异常比例、异常数如何触发?
一句话结论
慢调用比例:响应超过慢调用阈值的比例达限且样本数足够;异常比例:异常请求占比达限;异常数:单位窗口异常绝对数达限;规则满足最小样本量才触发,避免小样本误判。
概念解释
熔断规则在统计窗口内采集每次调用的耗时与结果,按规则类型计算慢调用占比、异常占比或异常绝对数;触发条件同时受最小请求量约束,样本不足时不具备统计意义,规则不生效。
示例
DegradeRule rule = new DegradeRule("orderClient")
.setGrade(RuleConstant.DEGRADE_GRADE_RT) // 慢调用比例
.setRtThreshold(500)
.setSlowRatioThreshold(0.5)
.setMinRequestAmount(5)
.setStatIntervalMs(10000);
常见误区
- 未设最小样本量:偶发 1~2 次异常就熔断。
- 慢调用阈值小于正常 P99:健康接口被反复熔断。
追问
- 三种规则能否叠加?可同时配置,任一满足即触发熔断。
- 熔断统计窗口多长?按规则配置的统计区间,窗口过短波动大,过长反应慢。
06.2.3.4-011 限流与熔断的区别是什么?
一句话结论
限流控制进入系统的速率/并发,防止被流量压垮;熔断针对下游调用的健康状态,下游故障时停止调用以免持续受损;限流看流量,熔断看下游健康度。
对比
| 维度 | 限流 | 熔断 |
|---|---|---|
| 防护对象 | 自身容量 | 下游依赖 |
| 触发依据 | QPS/并发/系统负载 | 慢调用/异常比例/异常数 |
| 动作 | 拒绝/排队 | 断开调用 + 兜底 |
| 恢复 | 流量回落即恢复 | 半开探测后恢复 |
常见误区
- 用限流代替熔断:下游已故障,限流仍让请求持续打到坏节点。
- 熔断当成限流:错误地按 QPS 触发断开调用。
追问
- 两者如何配合?入口限流挡超额流量,下游调用熔断隔离故障,降级兜底返回。
- 网关限流与服务熔断分别在哪层?网关偏入口限流,服务内偏下游调用熔断。
06.2.3.4-012 超时、隔离、降级、缓存、容量舱壁分别解决什么问题?
一句话结论
超时避免无限等待;隔离把不同依赖的资源分开,故障不蔓延;降级在故障时返回兜底能力;缓存吸收读压力;舱壁限定每类依赖占用的资源上限,整体构成容错工具箱。
概念解释
容错不是单一机制:超时是时间边界,隔离是资源边界,降级是功能退路,缓存是减压手段,舱壁是容量分区。缺少任何一层,故障都可能扩大。
常见误区
- 只设超时不做隔离:慢依赖占满共享线程,其他功能被拖累。
- 降级返回错误数据而不标识:调用方误把兜底数据当真实结果。
追问
- 缓存兜底与降级如何配合?读请求可先返回缓存旧值并标注非实时,写链路走降级处理。
- 舱壁按什么划分?按下游依赖、核心/非核心业务分配线程池与连接池。
06.2.3.4-013 Resilience4j 提供哪些容错组件?
一句话结论
Resilience4j 提供熔断(CircuitBreaker)、限流(RateLimiter)、重试(Retry)、隔离(Bulkhead)、限时(TimeLimiter)、缓存(Cache)等轻量组件,可函数式组合,不依赖 Servlet 容器。
概念解释
各组件以装饰器方式包裹业务 Supplier/Function,按顺序叠加横切防护;组件状态独立维护,通过配置项调节阈值与行为,组件之间可自由组合但需注意包裹顺序。
示例
Supplier<OrderDTO> supplier = CircuitBreaker.decorateSupplier(
circuitBreaker, () -> orderClient.get(id));
OrderDTO result = SupplierUtils.recover(supplier, e -> OrderDTO.fallback(id)).get();
常见误区
- 组件堆叠顺序不清:重试包在熔断外会反复击穿熔断,应熔断包重试。
- 认为 Resilience4j 只做熔断:它同时覆盖限流、隔离、限时等能力。
追问
- Resilience4j 与 Sentinel 选型?Sentinel 规则管理与控制台完善,Resilience4j 库轻量、函数式;按团队栈评估。
- 组合顺序一般是什么?TimeLimiter → CircuitBreaker → Bulkhead → Retry → 业务调用。
06.2.3.4-014 线程池隔离与信号量隔离有何区别?
一句话结论
线程池隔离为每个依赖分配独立线程池,故障依赖不占用其他池的线程;信号量隔离用计数器限制并发,不额外开线程,开销小但不能阻塞隔离慢调用。
对比
| 维度 | 线程池隔离 | 信号量隔离 |
|---|---|---|
| 资源 | 独立线程池 | 计数许可 |
| 阻塞隔离 | 强 | 弱(调用仍占主线程) |
| 开销 | 线程切换成本 | 低 |
| 适用 | 慢调用、长依赖 | 快调用、内部资源 |
常见误区
- 用信号量隔离慢下游:下游阻塞时主线程仍被占住,隔离失效。
- 线程池数量过多:上下文切换与内存成本上升,池大小需规划。
追问
- 线程池拒绝策略怎么配?满了快速失败走降级,不无限排队。
- 信号量许可数怎么定?按可接受并发数设,与线程池大小分别规划。
06.2.3.4-015 Redis Lua 令牌桶如何保证原子性?
一句话结论
令牌生成与扣减逻辑写成一段 Lua 脚本在 Redis 单线程内顺序执行,脚本读取当前令牌数与时间、补充令牌、判断是否发放,全程不被其他命令打断,避免并发超发。
概念解释
Redis 执行 Lua 脚本具有原子性:脚本作为整体在单线程内跑完,期间不会插入其他客户端命令。令牌桶的「按时间补充令牌 + 判断余量 + 扣减」三步必须放进同一脚本,拆成多条独立命令就会在并发交错下超发。
示例(脚本逻辑)
-- KEYS[1] 桶键;ARGV: 速率、容量、当前时间
local current = redis.call('hgetall', KEYS[1])
-- 按时间差补充令牌到上限
-- 令牌 > 0 则扣减 1 返回 1,否则返回 0
常见误区
- 先 GET 再 DECR 两条命令:并发下两个请求都读到足量令牌,超发。
- 令牌桶容量与速率不匹配:突发容量过大等于不限流。
追问
- Lua 脚本超时怎么办?脚本必须短平快,复杂判定放客户端或拆分。
- Redis 主从切换丢计数?窗口内配额可能偏差,配合本地兜底策略。
06.2.3.4-016 令牌桶与漏桶有何区别?
一句话结论
令牌桶按固定速率发令牌,桶内可积累令牌允许一定突发;漏桶以固定速率流出请求,桶内排队平滑流量,不允许突发;令牌桶兼顾突发,漏桶强制匀速。
对比
| 维度 | 令牌桶 | 漏桶 |
|---|---|---|
| 突发 | 允许(桶内积累) | 不允许 |
| 流出 | 拿到令牌即放行 | 匀速出水 |
| 适用 | 一般 API 限流 | 强匀速削峰 |
常见误区
- 令牌桶容量设为无限:积累能力失去约束。
- 漏桶用于不可排队的实时接口:排队等待变成超时。
追问
- 突发流量怎么保护下游?桶容量设为可承受的峰值,超出排队或拒绝。
- 两种算法能否组合?入口漏桶匀速,内部令牌桶按资源配额控制。
06.2.3.4-017 限流 key 如何设计?
一句话结论
按防护维度选 key:全局限流用接口/资源名,用户维度用用户 ID,租户维度用租户 ID,IP 维度用来源 IP;key 拼接维度与时间窗口,避免不同维度互相挤占配额。
概念解释
key 决定配额归属:同一用户刷接口不应挤占其他用户配额;多维限流可叠加(先全局、再用户)。key 需脱敏后作为计数键,不包含敏感明文。
常见误区
- 所有接口共用一个 key:一个热点接口耗尽全局配额。
- key 维度过粗:正常用户被恶意用户连带限流。
追问
- 登录接口按什么限流?IP + 账号双维度,防暴力破解。
- key 如何避免碰撞?前缀标识维度(
rate:user:{id}:{api})。
06.2.3.4-018 限流阈值如何依据压测确定?
一句话结论
压测得到接口在目标硬件、数据量、依赖正常时的吞吐与时延拐点;阈值取拐点以下的安全余量,预留依赖抖动与突发空间;上线后按监控动态调整。
概念解释
阈值不是固定经验值:随机器规格、数据量、下游能力变化。压测记录 QPS-P99/错误率曲线,找到时延与错误率可接受的最大吞吐,再打折作为限流线。
常见误区
- 阈值按单机标称性能设满:无余量,依赖抖动即触发错误。
- 只压测空闲环境:未考虑缓存命中率、慢查询等生产状态。
追问
- 阈值多久复核一次?容量、架构、数据量变化后重新压测校准。
- 多级阈值如何定?入口宽于内部核心资源,下游最紧。
06.2.3.4-019 降级策略与兜底数据如何设计?
一句话结论
降级按依赖与业务等级分档:核心功能保留,非核心功能关闭;兜底返回缓存旧值、默认值或友好提示,明确标识结果可能非实时;降级动作记录日志与指标供恢复后补偿。
概念解释
降级是主动取舍:故障时保核心链路。兜底数据必须可接受(如推荐为空、详情返回缓存),不能返回误导性成功结果;写操作降级进入异步队列补偿。
常见误区
- 兜底返回 null 或错误对象:上游未处理引发二次异常。
- 降级后无记录:丢失的写请求无人补偿,数据不一致。
追问
- 读兜底用什么数据源?最近缓存/快照,标注时效。
- 写请求降级怎么处理?入可靠队列异步重试,对账补偿最终一致。
06.2.3.4-020 重试与熔断如何配合,系统自适应保护怎么落地?
一句话结论
重试只在幂等、有次数与退避限制时开启,熔断包在重试外层避免故障期反复重试;系统自适应保护按整体负载(入口 QPS、线程数、响应时间、系统负载)自动限流,防止整机过载。
概念解释
重试放大流量,熔断切断无效调用;自适应保护不依赖单条规则,当整机压力达到阈值时按比例拒绝新请求,保住系统不被压垮。
常见误区
- 重试在熔断外层:熔断打开后重试仍不断发起,失去熔断意义。
- 自适应保护阈值缺失:整机 CPU/线程满了才反应,已出现雪崩前兆。
追问
- 退避策略怎么配?指数退避 + 随机抖动,避免同步重试风暴。
- 系统保护关注哪些指标?入口 QPS、并发线程、平均响应时间、CPU/Load,按阈值分级限流。