09.2.1.3 分布式限流:Redis + Lua 与集群
所属:全栈开发面试题库 / 09 高阶架构:高并发与分布式 / 09.2 流量治理 / 09.2.1 限流算法与实现
09.2.1.3-001 单机限流与分布式限流有什么差异?
一句话结论
单机限流只统计本实例请求,配额在各实例独立分配;分布式限流统计全集群共享配额,保证集群总速率不超阈值。多实例部署时要控总量必须用共享计数,单机计数只能保护本实例不被打满。
概念解释
- 单机:本地内存计数,无网络开销,视图局部。
- 分布式:共享存储(Redis)或集中 token 服务,全局配额一致。
- 关系:分布式限流做总量控制,单机限流做本地兜底防过载。
原理流程
单机:每实例各自计数 → 总量 = 实例数 × 单机阈值
分布式:共享计数 → 总量受全局阈值约束
常见误区
- 误区:把单机阈值乘以实例数当作总量控制。各实例独立计数无法应对流量倾斜,总量可能超限。
- 误区:分布式限流可以替代单机兜底。共享存储故障或超时时,本地仍需限流保护自身。
追问
- 问:两层限流怎么配合?答:网关/共享计数控全局配额,应用本地限流做过载保护,规则互相留余量。
- 问:什么场景只需要单机限流?答:单实例部署,或各实例配额独立(如按实例隔离的内部任务)。
09.2.1.3-002 为什么分布式限流要放到 Redis?
一句话结论
Redis 是集群各实例共享的内存存储,读写快、支持原子计数与过期,适合存放全局限流计数;相比数据库,Redis 访问延迟低、能承受限流判定的高频读写。
概念解释
- 共享:所有应用实例访问同一份计数。
- 性能:内存操作,判定路径短。
- 数据结构:String 计数、ZSET 时间戳、Hash 桶状态。
原理流程
实例请求 → 读/写 Redis 限流 key
→ 返回放行/拒绝
常见误区
- 误区:Redis 限流绝对可靠无故障。Redis 抖动或故障时需要本地降级策略,不能硬依赖。
- 误区:限流计数适合落数据库。DB 承受不了每请求一次的判定读写,会成为新瓶颈。
追问
- 问:Redis 部署形态有要求吗?答:主从/集群保证高可用;限流 key 按维度分片,避免单 key 热点。
- 问:计数需要持久化吗?答:限流配额可丢失重建,一般不要求强持久化;持久化策略按可用性权衡。
09.2.1.3-003 Redis + Lua 为什么能保证原子性?
一句话结论
Redis 单线程顺序执行命令,Lua 脚本作为一个整体执行,期间不会插入其他客户端命令;把“读取状态 → 判断 → 更新 → 写回”放进同一脚本,避免并发读-改-写超发。
概念解释
- 原子边界:整个 Lua 脚本一次执行完。
- 避免问题:并发下两个请求同时读到旧计数再各自 +1。
- 脚本内只操作本 key,逻辑简单确定。
原理流程
多实例并发到达
→ 各自发送 Lua 脚本
→ Redis 逐个顺序执行
→ 计数与判定一致,不超发
常见误区
- 误区:用多条 Redis 命令组合也能原子。INCR 后再 EXPIRE 这类分步命令之间可能被插入其他请求,仍需 Lua 或事务保证。
- 误区:Lua 脚本可以做复杂业务逻辑。脚本应短而确定,复杂判定放在应用侧,避免阻塞 Redis。
追问
- 问:Redis 集群下 Lua 有什么约束?答:脚本涉及的 key 必须落在同一 slot,否则执行报错。
- 问:脚本执行慢会怎样?答:阻塞 Redis 主线程,限流脚本要避免循环扫描大集合。
09.2.1.3-004 写一个固定窗口的 Lua 限流脚本。
一句话结论
脚本接收限流 key、阈值、窗口秒数;INCR 计数,首次写入时设置过期,超过阈值返回 0(拒绝),否则返回 1(放行)。
概念解释
- KEYS[1]:限流计数 key。
- ARGV[1]:阈值 limit;ARGV[2]:窗口秒数 window。
- 返回:1 放行,0 拒绝。
原理流程
local key = KEYS[1]
local limit = tonumber(ARGV[1])
local window = tonumber(ARGV[2])
local current = redis.call('INCR', key)
if current == 1 then
redis.call('EXPIRE', key, window)
end
if current > limit then
return 0
end
return 1
常见误区
- 误区:忘记给 key 设过期。计数 key 永久残留,内存持续增长。
- 误区:先判断再 INCR。非原子顺序下并发请求都会通过判断,必须在脚本内先递增再判定。
追问
- 问:INCR 后 key 过期被清除怎么办?答:首次 INCR 即建 key 并设 TTL;脚本返回前计数已写入,不存在读到空 key 的竞态。
- 问:返回值如何映射 HTTP?答:1 放行;0 返回 429 并可带 Retry-After 建议等待时间。
09.2.1.3-005 写一个令牌桶的 Lua 脚本。
一句话结论
脚本在 Hash 中存令牌数与上次补充时间戳;按时间差惰性补令牌(不超容量),余量足够则扣减并返回 1,否则返回 0;同时给 key 设置空闲过期。
概念解释
- Hash 字段:
tokens当前令牌,ts上次补充时间(毫秒/秒,口径统一)。 - ARGV:速率 rate、容量 capacity、当前时间 now、申请令牌数 requested。
- 时间单位必须与速率单位一致。
原理流程
local key = KEYS[1]
local rate = tonumber(ARGV[1])
local capacity = tonumber(ARGV[2])
local now = tonumber(ARGV[3])
local requested = tonumber(ARGV[4])
local bucket = redis.call('HMGET', key, 'tokens', 'ts')
local tokens = tonumber(bucket[1])
local lastTs = tonumber(bucket[2])
if tokens == nil then
tokens = capacity
lastTs = now
end
local dt = math.max(0, now - lastTs)
tokens = math.min(capacity, tokens + dt * rate)
local allowed = 0
if tokens >= requested then
tokens = tokens - requested
allowed = 1
end
redis.call('HMSET', key, 'tokens', tokens, 'ts', now)
redis.call('EXPIRE', key, math.ceil(capacity / rate) + 10)
return allowed
常见误区
- 误区:速率单位用毫秒、时间戳用秒混算。dt 与 rate 单位必须统一,否则令牌补充速率错误。
- 误区:拒绝时不更新 ts。时间戳不写回会导致下次按旧时间差大量补令牌,产生超发。
追问
- 问:时钟回拨怎么防护?答:
math.max(0, now - lastTs)已避免负 dt;重大回拨依赖 NTP 同步与运行时监控。 - 问:批量申请不足时能否部分放行?答:脚本按约定返回全有或全无;部分放行需额外设计余量返回值。
09.2.1.3-006 Lua 脚本的 KEYS / ARGV 如何约定?
一句话结论
KEYS 只放需要操作的 Redis key(便于集群路由与审计),ARGV 放阈值、速率、容量、时间、申请数量等参数;key 由应用按维度拼接,参数不写死在脚本里,便于复用同一脚本。
概念解释
- KEYS:被操作键,集群下需同 slot。
- ARGV:纯参数值,字符串传入后 tonumber 转换。
- 约定:脚本可复用,规则参数化。
原理流程
KEYS[1] = "rate:token:api:1001"
ARGV = { rate, capacity, now, requested }
常见误区
- 误区:把 key 拼进 Lua 字符串。应通过 KEYS 传入,避免脚本内动态构造键,集群路由也无法识别。
- 误区:数字直接当数字用。Redis 传入参数都是字符串,脚本内必须 tonumber 转换。
追问
- 问:脚本可以读多个 key 吗?答:可以,但多 key 在集群模式要保证同 slot,或改用单 key 结构。
- 问:参数变更需要改脚本吗?答:不需要,阈值速率通过 ARGV 传入,规则更新只改应用配置。
09.2.1.3-007 Redis 单点故障时限流怎么办?
一句话结论
限流组件不可用时不能默认放开全部流量:降级为本地内存限流(按缩减后的单机阈值),或在组件故障期间启用保守拒绝/只读兜底策略;具体放行还是拒绝按业务风险预设。
概念解释
- 降级方向:本地计数兜底、固定阈值拒绝、走静态兜底页。
- 风险权衡:放开可能压垮下游,过严拒绝影响可用性。
- 预案:故障检测、自动切换、恢复后回切。
原理流程
Redis 超时/不可用
→ 切换本地限流(缩减配额)
→ 极端情况:核心链路保守放行,非核心拒绝
常见误区
- 误区:Redis 挂了就取消限流。失去全局保护后流量可能直接击穿下游,故障扩大。
- 误区:本地限流阈值和全局一样。本地兜底只防过载,配额应低于正常单机份额。
追问
- 问:如何检测限流组件故障?答:调用超时、错误率监控,设置熔断切换到降级策略。
- 问:恢复后如何回切?答:健康检查通过后逐步恢复共享计数,避免切换瞬间流量冲击。
09.2.1.3-008 本地限流 + 分布式限流如何双层兜底?
一句话结论
分布式(Redis/集群服务)控全局配额,本地内存限流兜底防单实例过载;两层阈值留层级余量:本地上限 ≥ 单机应得份额,全局阈值约束总量;共享组件故障时本地层仍生效。
概念解释
- 全局层:控集群总量与多维度配额。
- 本地层:保护本实例线程池/连接,不依赖网络。
- 余量:避免两层同时收紧导致误伤。
原理流程
请求 → 全局限流判定
→ 本地限流二次判定
→ 放行 / 拒绝
常见误区
- 误区:两层阈值完全相同。任一统计偏差都会导致误伤;本地层应允许合理波动,全局层控总量。
- 误区:本地限流只是冗余。它在共享存储故障和流量倾斜时是最后一道保护。
追问
- 问:本地计数如何应对实例扩容?答:本地份额 = 全局配额 / 预估实例数,动态调整或由规则推送。
- 问:两层拒绝原因如何区分?答:分别记录命中层级,便于判断是总量超限还是本实例过载。
09.2.1.3-009 热点 key 打在 Redis 上的压力怎么缓解?
一句话结论
热点限流 key 单线程承受全部判定读写,可能成为 Redis 瓶颈;缓解手段包括配额分桶(把一个 key 拆成多个子桶分摊)、本地预取令牌、减少脚本读写次数、读多写少结构优化。
概念解释
- 热点来源:热门接口、全局配额 key。
- 拆分:key 分片,子桶配额之和 = 总量。
- 本地预取:批量取令牌缓存到本地,减少 Redis 访问次数。
原理流程
单 key 热点 → 拆 N 个子桶轮询/随机选取
→ 本地批量预取令牌
→ 降低 Redis QPS
常见误区
- 误区:分桶后总量精确等于配额。子桶分摊存在误差,允许少量偏差时适用;强精确配额需合并计数。
- 误区:本地预取令牌不会超发。预取批量额度在本地快速消耗,实例下线/重启时预取额度可能浪费,需设过期与回收。
追问
- 问:分桶如何保证总和不超?答:各子桶阈值之和 = 全局配额;分配方式可用轮询或哈希维度。
- 问:Redis 本身热点怎么发现?答:监控单 key QPS、Redis CPU 与慢日志,定位热点限流 key。
09.2.1.3-010 集群限流(总配额)与单机限流如何分工?
一句话结论
集群限流分配全集群总配额,回答“整个系统最多接多少”;单机限流约束本实例资源使用,回答“单个实例最多扛多少”;集群配额按实例数与流量预估分摊,单机阈值防倾斜与过载。
概念解释
- 集群层:全局 QPS/租户配额。
- 单机层:本实例线程池、连接、内存保护。
- 动态:实例数变化时重新分摊配额。
原理流程
集群总配额 Q
→ 按实例分摊单机份额 q ≈ Q / N
→ 本地限流兜底在 q 附近
常见误区
- 误区:集群限流配好就不用管单机。流量倾斜时个别实例过载,本地兜底必须存在。
- 误区:单机阈值固定写死。实例数、流量结构变化后份额要重新计算并推送。
追问
- 问:集群配额如何按租户分配?答:总配额按租户权重拆分,每租户独立 key 计数,租户内再控单机份额。
- 问:实例缩容时配额怎么回收?答:规则中心调整各实例阈值,避免缩容后单机份额过高。
09.2.1.3-011 Sentinel 集群流控的 Token Server 模型是什么?
一句话结论
集群流控由独立 Token Server 统计全局配额并向各 Client 发放令牌/判定结果,Client 本地缓存少量配额兜底;Server 集中计算总量,Client 定期拉取令牌,降低每请求都访问中心的开销。
概念解释
- Token Server:集中配额计数与发放。
- Client:应用节点,向 Server 申请配额,本地缓冲少量令牌。
- 通信:批量取令牌,减少交互次数。
原理流程
Client → 向 Token Server 批量申请令牌
→ 本地持有令牌处理请求
→ 令牌不足再申请
Server 维护全局计数与阈值
常见误区
- 误区:集群 Token Server 没有单点风险。Server 需高可用部署,故障时 Client 回退本地限流。
- 误区:每请求都同步问 Server。通常批量预取,本地消费,否则中心成为延迟与瓶颈。
追问
- 问:Client 本地缓冲令牌有什么代价?答:缓冲额度可能导致节点间配额不均,Server 故障时缓冲期内按本地策略运行。
- 问:集群流控适用什么场景?答:需要严格全局 QPS 配额的开放平台、多租户接口;具体配置以 Sentinel 官方文档为准。
09.2.1.3-012 集群流控的通信开销与失败兜底是什么?
一句话结论
通信开销通过批量取令牌、本地缓冲摊薄;Server 不可用或通信超时时,Client 回退到本地限流规则(单机阈值)或预设的保守策略,恢复后重新同步全局配额。
概念解释
- 开销:请求到 Server 的网络往返与 Server 计数压力。
- 兜底:本地规则、默认拒绝/放行策略。
- 恢复:健康探测通过后回切集群模式。
原理流程
正常:批量取令牌 → 本地消费
异常:通信超时 → 本地兜底规则
恢复:探测通过 → 重新申请全局配额
常见误区
- 误区:集群流控失败时默认放行。失去全局配额约束可能击穿下游,应按链路重要性预设策略。
- 误区:本地兜底规则与集群规则无关。兜底阈值应是集群份额的保守版本,避免脱节。
追问
- 问:批量取令牌大小怎么定?答:平衡 Redis/Server 压力与配额实时性,批量过大分配不均,过小增加往返。
- 问:如何监控集群流控健康?答:Server 可用性、取令牌成功率、本地兜底触发次数、配额同步延迟。
09.2.1.3-013 多机房部署时限流配额怎么拆?
一句话结论
按各机房流量预估与下游能力拆分配额,机房内优先就近限流;跨机房冗余保留故障切换余量,避免把单机房配额打满后无法承接切流;全局配额可分层:机房配额 + 机房内维度配额。
概念解释
- 就近:本机房计数控本机房流量。
- 冗余:机房故障时切流到备用机房,预留容量。
- 层级:总配额 → 机房配额 → 接口/租户配额。
原理流程
总配额 Q → 机房 A/B 按流量份额分配
机房内 → 接口/用户维度计数
故障切换 → 备用机房使用预留配额
常见误区
- 误区:所有机房共享同一个 Redis 计数。跨机房网络延迟与故障会影响判定,机房内计数更稳。
- 误区:按当前平均流量分配机房配额。未预留切流余量,单机房故障时备用机房被打满。
追问
- 问:跨机房配额不一致会不会超全局?答:分层计数汇总校验,切换时调整备用机房配额上限。
- 问:限流规则如何跨机房同步?答:规则中心统一下发,各机房本地执行,配额参数按机房配置。
09.2.1.3-014 时钟漂移对窗口限流有什么影响?
一句话结论
窗口边界、过期时间与令牌补充都依赖时间;多节点时钟漂移会导致窗口错位、TTL 提前/延后过期、令牌折算偏差;应 NTP 同步时钟,限流时间以服务端/Redis 为准,算法上降低对精确边界的依赖。
概念解释
- 窗口错位:不同节点对当前窗口判断不同。
- TTL 偏差:key 提前过期或残留。
- 令牌折算:dt 偏差直接影响补充速率。
原理流程
节点时钟差 Δt
→ 窗口归属 / 过期 / dt 计算偏差
→ 局部超发或误拒
常见误区
- 误区:用客户端时间做限流判定。客户端时钟不可信,可被随意调整绕过限制。
- 误区:容器时钟自动准确。宿主与容器时钟漂移需纳入监控。
追问
- 问:令牌桶对时钟漂移比窗口更敏感吗?答:令牌桶按时间差折算,回拨与漂移直接影响令牌数;窗口算法主要影响边界归属。
- 问:缓解措施有哪些?答:NTP 同步、统一服务端时间、脚本内防护负 dt、监控时钟偏差告警。
09.2.1.3-015 Redis 网络延迟抖动对判定有什么影响?
一句话结论
限流判定依赖一次 Redis 读写,网络抖动会增加判定延迟并可能触发超时降级;判定路径要短、超时要保守,抖动时快速走本地兜底,不能让限流等待拖长请求 RT。
概念解释
- 影响:判定排队、超时失败。
- 超时策略:短超时 + 本地降级。
- 路径:避免在限流脚本中做重逻辑。
原理流程
Redis 延迟升高
→ 判定等待堆积
→ 超时 → 本地兜底
常见误区
- 误区:限流调用可以设很长超时。等待限流判定本身占线程槽位,抖动时放大延迟。
- 误区:Redis 慢不影响业务。限流判定线程被占用,同样会造成入口排队。
追问
- 问:判定超时阈值怎么设?答:远小于请求整体超时预算,取本地测量的 P99 再加余量。
- 问:如何降低判定延迟?答:短脚本、合理连接池、热点 key 拆分、本地预取。
09.2.1.3-016 限流计数丢失或持久化失败如何处理?
一句话结论
限流配额属于可重建的临时状态,Redis 故障/重启导致计数丢失时,按策略重建(从空桶/满桶起步),并评估丢失窗口内的超发风险;关键配额可结合本地状态或持久化快照降低偏差,但不必为限流做强一致事务。
概念解释
- 可丢失:计数不是业务数据,重启可重建。
- 起步策略:空桶保守放行,满桶允许突发。
- 风险窗口:重建期间计数不准。
原理流程
计数丢失 → 重建初始状态
→ 保守策略起步
→ 观察拒绝率与下游水位逐步校准
常见误区
- 误区:限流计数要落数据库强一致。判定频率高,DB 承载不起,且收益有限。
- 误区:丢失后直接满桶放行。保守起步更安全,避免故障恢复瞬间突发冲击下游。
追问
- 问:什么场景计数不能丢?答:计费配额、强约束租户限额,可结合持久化与对账机制,但判定路径仍需高性能。
- 问:如何降低丢失影响?答:本地记录近期配额、规则中心可重置初始桶状态。
09.2.1.3-017 限流拒绝后返回什么信息?
一句话结论
返回明确的拒绝状态(HTTP 429 或业务限流码),带可读提示与 Retry-After 建议等待秒数;响应体说明被限流的维度与原因,便于客户端退避重试和问题排查。
概念解释
- 状态码:429 Too Many Requests 表示速率超限。
- Retry-After:建议重试间隔。
- 业务码:内部 RPC 可定义限流错误码。
原理流程
拒绝 → 429 + Retry-After: N
+ 错误码/提示(不暴露内部阈值细节)
常见误区
- 误区:限流拒绝返回 500。500 表示服务故障,429 才是速率超限,语义不同。
- 误区:返回内部阈值与 key 细节。可能被攻击者利用探测配额,只给通用提示。
追问
- 问:客户端收到 429 应该怎么做?答:按 Retry-After 退避重试,避免立即重试形成重试风暴。
- 问:网关与应用层拒绝如何区分?答:错误码/响应头标记限流层级,便于定位是总量还是本实例超限。
09.2.1.3-018 为什么不用分布式锁包计数?
一句话结论
分布式锁把“读-改-写”串行化,但锁获取/释放有网络往返与超时风险,竞争激烈时成为瓶颈;Lua 原子脚本在 Redis 内一次完成判定与更新,路径更短、无锁等待,更适合高频限流计数。
概念解释
- 锁方案:先获锁 → 读计数 → 判断 → 写回 → 释放。
- Lua:单脚本原子完成,无锁实体。
- 风险:锁超时、死锁、等待队列。
原理流程
锁:lock → read → check → write → unlock
Lua:单线程内顺序完成 check + write
常见误区
- 误区:加锁最稳妥。锁竞争在高并发下放大延迟,锁故障还可能阻塞全部判定。
- 误区:Lua 做不到跨 key 原子。单 key 场景足够;跨 key 精确原子需事务或结构合并。
追问
- 问:什么情况下才需要分布式锁?答:保护跨资源的临界操作(如任务领取),而不是简单计数限流。
- 问:Redis 事务(MULTI/EXEC)能替代 Lua 吗?答:事务保证连续执行,但判定逻辑表达能力弱,复杂折算仍用 Lua。
09.2.1.3-019 配额预热与令牌补充在重启后怎么处理?
一句话结论
重启后桶状态丢失,可选择空桶起步(保守,逐步补充到稳态)或按配置初始令牌起步;预热期观察下游承受能力,避免冷启动满桶突发;固定窗口计数从新窗口重建即可。
概念解释
- 空桶:初始 tokens=0,随速率补充。
- 满桶:初始 tokens=capacity,允许起步突发。
- 预热:下游未就绪时限制起步速率。
原理流程
重启 → 桶状态重建
保守:tokens=0 逐步补充
允许突发:tokens=capacity
常见误区
- 误区:重启后立即满桶。下游刚启动(连接池、缓存未就绪)时突发容易压垮。
- 误区:预热只针对应用。下游 DB/缓存同样需要预热,限流起步速率应与之匹配。
追问
- 问:预热模式参数有哪些?答:起步速率、达到稳态速率的时间、桶初始令牌,按下游就绪节奏设定。
- 问:集群滚动重启如何避免配额错乱?答:逐实例重启,全局计数仍由共享层维持,单实例按本地策略起步。
09.2.1.3-020 分布式限流计数不准的常见来源有哪些?
一句话结论
常见来源:非原子读改写、时钟漂移、热点拆分误差、本地预取额度、组件故障降级、采样与窗口口径不一致;排查时按判定路径逐层核对原子性、时间口径与降级策略。
概念解释
- 原子性:并发超发。
- 时间:边界与折算偏差。
- 结构:分桶/预取带来的统计误差。
- 降级:故障期间规则偏离全局。
原理流程
计数不准 → 核对:原子脚本?时间单位/同步?
→ 分桶/预取误差?降级策略?
常见误区
- 误区:计数偏差都是 Redis 问题。应用本地缓存、分桶分摊与降级策略同样影响准确性。
- 误区:追求绝对精确而引入重事务。限流允许小偏差,换取判定性能与可用性,强配额场景再单独加固。
追问
- 问:如何验证计数准确性?答:压测观察放行总量与阈值偏差,对比各实例/子桶计数汇总。
- 问:哪些场景要求更精确?答:计费、强配额租户;普通防过载限流可接受受控误差。