罗罗编程学习记录
本页内容 展开查看

09.2.1.4 限流维度、阈值与落地体系

所属:全栈开发面试题库 / 09 高阶架构:高并发与分布式 / 09.2 流量治理 / 09.2.1 限流算法与实现

09.2.1.4-001 限流维度有哪些?

一句话结论

常见维度:用户、IP、接口、租户、设备、渠道/来源;维度用于区分限流对象,既保护整体容量,也防止单个对象耗尽共享资源;可单维度或组合判定。

概念解释

  • 用户/设备:防单用户刷接口。
  • IP:防来源批量请求(注意 NAT 误伤)。
  • 接口:保护单端点能力。
  • 租户:多商户按配额隔离。

原理流程

维度组合 → 限流 key
  → 按该维度独立计数

常见误区

  • 误区:只按接口限流。单个恶意用户/租户可以打满接口配额,影响其他用户。
  • 误区:IP 限流在 NAT 场景公平。同一出口 IP 下大量真实用户会被一起误伤。

追问

  • 问:登录前后维度怎么切?答:未登录按 IP/设备,登录后按用户 ID,避免匿名阶段误伤。
  • 问:渠道维度用来防什么?答:第三方合作方、活动入口突发流量,按渠道分配独立配额。

09.2.1.4-002 多维度组合限流的 key 怎么设计?

一句话结论

key 按“算法 + 各维度标识 + 窗口”分层拼接,支持单维度与组合维度分别计数;避免维度无限组合导致 key 爆炸,只对需要隔离的维度做组合。

概念解释

  • 分层:全局 → 接口 → 租户 → 用户。
  • 组合:接口 + 用户、接口 + 租户。
  • 基数:高基数维度(用户)要评估 key 数量与内存。

原理流程

key = "rate:{algo}:{api}:{tenant}:{user}:{window}"

常见误区

  • 误区:所有维度都拼进一个 key。组合基数巨大,稀疏 key 占内存,判定也更复杂。
  • 误区:key 不含窗口/算法。复用导致不同规则计数串扰。

追问

  • 问:多维度判定顺序?答:先粗维度(接口/租户)快速过滤,再细维度(用户)精确判定,任一超限拒绝。
  • 问:高基数 key 怎么治理?答:设置 TTL、冷 key 回收,热点维度单独监控。

09.2.1.4-003 阈值怎么定:基于容量 SLA 还是业务优先级?

一句话结论

阈值下限由压测得出的安全容量决定,上限按业务优先级与 SLO 分配配额;核心链路取容量内较高水位,非核心/可降级接口取保守阈值,优先级决定资源争抢时谁先被限。

概念解释

  • 容量约束:单机/下游安全 QPS、连接数。
  • 优先级:核心交易 > 普通查询 > 非核心活动。
  • 分配:总配额按优先级与权重划分。

原理流程

总安全容量 → 按业务优先级分配各接口/租户配额
阈值 ≤ 分配配额对应的安全水位

常见误区

  • 误区:阈值凭经验拍一个固定 QPS。没有压测依据,不是过松击穿下游就是过紧误伤。
  • 误区:所有接口同一阈值。接口成本、下游依赖与业务价值差异很大。

追问

  • 问:容量紧张时谁先被限?答:按优先级从低到高降级限流,核心链路最后被限。
  • 问:阈值上线后怎么校准?答:根据拒绝率、下游水位与业务流量周期性复核调整。

09.2.1.4-004 限流后的响应策略有哪些?

一句话结论

常见策略:快速失败(返回 429/错误码)、排队等待(有界队列)、降级兜底(返回缓存/默认值/简化功能);策略按请求时效与业务可接受度选择,核心链路优先降级兜底,非核心可直接拒绝。

概念解释

  • 快速失败:不占在途资源,提示稍后重试。
  • 排队:可异步化请求暂存处理。
  • 降级:保用户基本体验,不返回错误页。

原理流程

超限 → 可排队?入有界队列
  → 不可排队但可降级?返回兜底
  → 都不行 → 快速失败

常见误区

  • 误区:超限一律排队。同步强时效请求排队等待等于超时,体验更差。
  • 误区:降级就是返回错误。兜底数据、缓存、静态页才是完整降级策略。

追问

  • 问:写请求超限怎么处理?答:优先排队异步化(可接受最终一致),不可异步则拒绝并提示,不能静默丢弃。
  • 问:排队超时后走什么?答:超时拒绝或降级,释放队列槽位。

09.2.1.4-005 HTTP 状态码与 Retry-After 怎么用?

一句话结论

速率超限返回 429 Too Many Responses,响应头 Retry-After 给出建议等待秒数;客户端按此退避重试;RPC/内部调用用对应限流错误码,配合退避策略避免重试风暴。

概念解释

  • 429:表示请求频率超过限制,不是服务故障。
  • Retry-After:秒数或 HTTP 日期,指导重试间隔。
  • 退避:指数退避 + 抖动,避免同步重试。

原理流程

429 Too Many Requests
Retry-After: 3
客户端:等待 ≥3s 后重试,退避 + 抖动

常见误区

  • 误区:限流返回 503/500。5xx 表服务不可用,会触发不同的重试与告警逻辑。
  • 误区:让客户端立即重试。无退避的立即重试会形成重试风暴,加重限流压力。

追问

  • 问:Retry-After 取值依据什么?答:窗口剩余时间或令牌补充节奏,给保守可恢复的间隔。
  • 问:内部 RPC 没有 HTTP 状态码怎么办?答:定义业务限流码,客户端按码触发退避与降级。

09.2.1.4-006 网关层限流与应用层限流分别管什么?

一句话结论

网关层控制入口总流量、按接口/租户/渠道粗粒度分配配额,保护集群整体;应用层在实例内保护线程池、连接与下游依赖,做细粒度与过载兜底;两层职责互补,不能互相替代。

概念解释

  • 网关:接入流量整形、全局配额、黑白名单。
  • 应用:本地资源保护、热点参数限流、依赖隔离。
  • 分层:入口粗限,内部细限。

原理流程

客户端 → 网关限流(全局/维度)
  → 应用限流(本地/接口/参数)
    → 下游调用隔离

常见误区

  • 误区:网关限了流应用就不用限。网关故障或流量绕过时,应用没有本地保护。
  • 误区:应用层承担全局配额。单实例视图无法准确控制集群总量,全局控制仍需共享计数。

追问

  • 问:限流规则推送在哪一层管理?答:规则中心统一下发到网关与应用,保持阈值一致并可动态调整。
  • 问:网关层能做热点参数限流吗?答:网关可解析参数做粗粒度;细粒度参数计数常在应用层完成。

09.2.1.4-007 接入层、网关、服务、DB 各层限流位置怎么放?

一句话结论

接入层保护连接与入口速率,网关分配全局配额,服务层保护自身线程池与下游依赖,DB/缓存侧通过连接数与慢查询保护;越靠近入口越早拦截无效流量,越靠近下游越要防过载反压。

概念解释

  • 接入:连接数、包速率。
  • 网关:QPS 配额、维度限流。
  • 服务:并发线程/信号量、隔离池。
  • 存储:连接上限、查询频率保护。

原理流程

接入 → 网关 → 服务 → 缓存/DB
每层独立设限,上层拦截减轻下层压力

常见误区

  • 误区:限流只放在最外层。下游依赖自身也需要保护,上层限流失效时下层要有兜底。
  • 误区:DB 层不设保护。应用连接池上限就是 DB 侧保护,配合慢查询与熔断。

追问

  • 问:哪一层拒绝成本最低?答:接入/网关层,越早拦截越节省后续资源。
  • 问:各层阈值怎么联动?答:上层配额 ≥ 下层安全能力,避免下层先被击穿;按链路容量逐级收紧。

09.2.1.4-008 热点参数限流是什么?

一句话结论

针对请求中的热点参数(如热门商品 ID、大 V 用户)单独计数限流,防止少量热点参数占满接口配额与下游缓存;普通参数共享配额,热点参数独立控制。

概念解释

  • 热点参数:访问集中的业务 key。
  • 独立计数:参数维度阈值。
  • 发现:统计参数访问频次,动态识别热点。

原理流程

提取参数值 → 判断是否热点
  → 热点参数独立计数限流
  → 普通参数走接口配额

常见误区

  • 误区:接口 QPS 正常就没有热点问题。热点集中在少数 key 时,缓存与 DB 单行压力仍可能饱和。
  • 误区:热点参数全部独立限流。非热点单独计数会造成 key 与规则爆炸,只对识别出的热点生效。

追问

  • 问:热点怎么识别?答:本地统计参数频次,超阈值标记为热点并加载对应规则。
  • 问:热点限流配合什么手段?答:本地缓存、热点副本、读写分离,限流只是兜底保护。

09.2.1.4-009 自适应限流(基于 RT / 系统负载)怎么判断?

一句话结论

自适应限流不预设固定 QPS,而是根据实时负载(CPU、RT、队列长度、下游饱和度)动态调整放行数量:系统健康时放宽,接近饱和时收紧;目标是在拐点前保护系统,而不是只按固定计数。

概念解释

  • 输入指标:RT 分位、负载、队列、错误率。
  • 调整:接近水位线自动降低阈值。
  • 恢复:指标回落后逐步放开。

原理流程

监控负载/RT/队列
  → 低于水位:正常放行
  → 接近饱和:自动收紧限流
  → 回落:逐步恢复

常见误区

  • 误区:自适应限流可以替代容量规划。动态调整是兜底,仍需知道系统安全水位与拐点。
  • 误区:只看 CPU 做自适应。IO 等待时 CPU 不高但下游已饱和,需结合队列与下游指标。

追问

  • 问:常见自适应算法思路?答:基于排队论/负载因子估计可行并发数,或按 RT 与饱和度反馈调整放行速率;具体实现以框架文档为准。
  • 问:自适应参数如何避免抖动?答:设置滞回区间与恢复缓冲,避免阈值在边界反复抖动。

09.2.1.4-010 限流规则的动态推送与生效怎么做?

一句话结论

规则在配置中心/规则中心维护,变更后推送到网关与应用节点,本地缓存规则并监听更新;动态生效不重启服务,同时保留规则版本与回退能力,推送失败有本地兜底默认值。

概念解释

  • 规则内容:阈值、维度、算法、拒绝策略、优先级。
  • 推送:配置监听、长轮询/消息通知。
  • 兜底:推送失败用最近生效规则或保守默认。

原理流程

规则变更 → 规则中心推送
  → 节点本地更新限流配置
  → 失败 → 保留旧规则/默认兜底

常见误区

  • 误区:规则改完立即全节点一致。推送存在延迟,短暂时间各节点规则可能不同,需接受最终一致。
  • 误区:没有规则版本与回退。错误规则推送后无法快速回滚,应保留版本与一键回退。

追问

  • 问:规则热更新要注意什么?答:更新过程中计数状态是否保留、新旧规则切换时点,避免计数重置导致突刺。
  • 问:本地缓存规则过期怎么办?答:定期拉取 + 监听推送,不可用时使用保守默认规则。

09.2.1.4-011 灰度 / 白名单如何绕限流?

一句话结论

白名单(内部员工、压测流量、合作方)在限流判定前优先放行,不受普通配额约束;白名单要受控登记、可审计,灰度流量带标记走独立规则,避免绕限通道被滥用。

概念解释

  • 放行顺序:白名单判断优先于限流计数。
  • 标记:灰度/压测流量带专门标识。
  • 审计:白名单变更可追溯。

原理流程

请求 → 是否白名单/灰度标记?
  是 → 走专属规则放行
  否 → 普通限流判定

常见误区

  • 误区:内部接口默认全部绕限流。内部流量同样可能压垮下游,应有独立配额。
  • 误区:白名单长期不复核。过期账号、测试入口应及时清理,防止绕过保护。

追问

  • 问:压测流量如何识别?答:全链路染色标记,在限流与下游按影子链路处理,不计入正常配额。
  • 问:白名单放行后还受什么保护?答:仍受熔断、隔离与下游容量约束,只是不参与普通速率配额。

09.2.1.4-012 租户配额(多商户)怎么公平分配?

一句话结论

总容量按租户等级与权重拆分配额,租户内再控接口/用户速率;超限租户只限制自身,不影响其他租户;配额可按套餐分级,结合实时用量与峰值共享池调节公平性。

概念解释

  • 隔离:租户独立计数与配额。
  • 分级:基础/高级商户不同额度。
  • 公平:避免单租户占满共享资源。

原理流程

总容量 → 按租户权重分配配额
租户超限 → 仅拒绝该租户请求

常见误区

  • 误区:所有租户共享一个接口总池。大商户会挤占小商户,无法做商业隔离。
  • 误区:配额静态固定。高峰时段可设共享借用池,但要防止租户互相打满。

追问

  • 问:租户配额怎么计量?答:按 QPS、调用量或资源占用维度,结合套餐约定统计。
  • 问:超配额租户如何提示?答:返回配额耗尽错误与重置时间,引导升级或稍后重试。

09.2.1.4-013 突发大流量下限流规则如何分层兜底?

一句话结论

从外到内多层拦截:接入限连接、网关限全局 QPS、应用限本地并发、依赖隔离池保护下游;越往内拒绝成本越高,因此外层先拦,内层做最后保护,每层有独立阈值与降级动作。

概念解释

  • 多层防线:任一上层失效,下层兜底。
  • 阈值逐级:上层总量 ≥ 下层安全能力。
  • 动作递进:拒绝 → 排队 → 降级。

原理流程

接入连接限制 → 网关全局配额
  → 应用本地并发 → 依赖隔离池

常见误区

  • 误区:只依赖一层大阈值限流。该层故障或配置错误时没有第二道防线。
  • 误区:各层阈值一致。层级间没有余量会同时收紧,误伤整体流量。

追问

  • 问:大促前如何校验多层规则?答:全链路压测验证各层触发顺序、阈值与降级动作是否符合预案。
  • 问:流量绕过关网怎么办?答:应用层本地限流必须独立生效,不能假设入口一定被管控。

09.2.1.4-014 限流误伤如何发现与申诉?

一句话结论

通过拒绝率、被拒维度分布与业务投诉监控误伤;记录被拒请求的维度、规则与计数,支持事后核对;阈值过紧时结合下游水位上调,避免把正常峰值当作超限。

概念解释

  • 误伤信号:正常用户被拒、下游仍有余量。
  • 记录:规则命中、维度、当时计数与水位。
  • 复核:对比流量画像与阈值依据。

原理流程

拒绝告警/投诉 → 查拒绝明细
  → 下游水位是否有余量?
  → 阈值过紧 → 调整;确属超限 → 维持

常见误区

  • 误区:被拒都是恶意流量。阈值偏低、流量画像变化都会造成误伤,需用下游数据复核。
  • 误区:拒绝不记录明细。无明细无法判断误伤原因,也无法申诉核对。

追问

  • 问:误伤率怎么衡量?答:被拒请求中后续重试成功、下游未饱和的比例,结合人工复核。
  • 问:阈值调整流程?答:观察下游水位与业务影响,灰度调整,保留回退版本。

09.2.1.4-015 限流指标需要监控什么?

一句话结论

监控:放行/拒绝 QPS、拒绝率、各维度与各规则命中分布、限流阈值与当前计数、规则推送状态、本地兜底触发次数;结合下游水位判断限流是否在保护还是在误伤。

概念解释

  • 流量指标:通过量、拒绝量、拒绝率。
  • 分布:按接口、租户、用户、IP 维度。
  • 系统:规则版本、组件健康、降级触发。

原理流程

QPS_pass / QPS_reject
拒绝率趋势 + 维度分布
规则状态 + 兜底次数

常见误区

  • 误区:只看总拒绝数。不看维度分布,无法发现热点误伤或单租户超限。
  • 误区:限流组件自身不监控。组件故障降级触发也是需要告警的事件。

追问

  • 问:拒绝率告警怎么设阈值?答:基于历史正常波动设基线,突增告警;区分恶意流量与误伤。
  • 问:如何评估限流效果?答:对比限流前后下游 RT、错误率与在途积压,确认保护有效。

09.2.1.4-016 不同接口优先级不同时如何分配配额?

一句话结论

总安全容量按优先级与业务价值分配权重:核心链路配额优先保障,非核心接口配额可压缩甚至降级;资源争抢时按优先级从低到高限流,配额可动态借用但需设上限回收。

概念解释

  • 权重:核心 > 普通 > 可降级。
  • 静态分配 + 动态借用:空闲时可借用共享池,紧张时收回。
  • 隔离:关键接口有保底配额。

原理流程

总容量 → 保底配额(核心)+ 共享池
争抢时:先限低优先级 → 再限共享池

常见误区

  • 误区:平均分配所有接口。核心交易没有保底,会被非核心流量挤占。
  • 误区:共享池无上限借用。非核心借满会挤压核心,需设借用上限。

追问

  • 问:优先级规则落在哪一层?答:网关/应用限流规则带优先级标签,降级预案按顺序触发。
  • 问:如何验证优先级生效?答:压测混合流量,观察低优先级先被限、核心链路 RT 与成功率保持。

09.2.1.4-017 客户端限流(防刷)与服务端限流如何配合?

一句话结论

客户端/入口侧限制单用户、单设备的请求节奏,减少无效到达;服务端做权威配额与容量保护;客户端限制可被绕过,不能替代服务端限流,两侧规则与退避策略保持一致。

概念解释

  • 客户端:交互层防抖、按钮节流、前端频率提示。
  • 服务端:最终判定与强制保护。
  • 一致性:客户端提示口径与服务端错误码对齐。

原理流程

客户端节流 → 减少重复请求
服务端权威限流 → 保护容量

常见误区

  • 误区:前端做了限流就安全。脚本/抓包可绕过前端,服务端必须独立限流。
  • 误区:客户端与服务端阈值不一致。前端提示可重试而服务端拒绝,造成体验混乱。

追问

  • 问:防刷重点看哪些维度?答:用户、设备、IP、行为频率与异常模式,结合风控识别脚本流量。
  • 问:客户端退避怎么设计?答:失败后指数退避 + 抖动,避免固定间隔同步重试。

09.2.1.4-018 写接口与读接口限流策略有什么差异?

一句话结论

读接口可缓存兜底、成本较低,阈值可按查询能力设定;写接口涉及事务、DB 锁与持久化,成本高、回滚代价大,阈值更保守,优先异步化排队与幂等保护,限流拒绝策略也要避免产生半成品数据。

概念解释

  • 读:命中缓存为主,可降级返回旧数据。
  • 写:落库一致性约束,不能轻易重试或丢弃。
  • 策略:写更重隔离、更保守配额与异步削峰。

原理流程

读超限 → 缓存/降级兜底
写超限 → 排队异步化 / 保守拒绝 + 幂等

常见误区

  • 误区:读写用同一阈值。写单请求资源占用与失败代价远高于读。
  • 误区:写请求被限流后客户端随意重试。无幂等重试会造成重复下单,必须配合幂等键。

追问

  • 问:写削峰用什么?答:MQ/队列异步化,消费匀速落库,控制积压与超时。
  • 问:读降级返回旧数据要注意什么?答:标注数据时效,关键一致性场景仍走主库。

09.2.1.4-019 常见框架的限流能力有哪些概念?

一句话结论

网关插件(如 Nginx/Envoy/Ingress 注解)提供入口 QPS/连接限制;Sentinel 支持 QPS、线程数、关联/链路流控与系统自适应;Resilience4j 提供限流器(RateLimiter)与舱壁;能力名称相近但语义与阈值口径不同,落地前核对框架文档。

概念解释

  • 网关:入口粗粒度限流。
  • Sentinel:多维规则 + 自适应 + 降级熔断联动。
  • Resilience4j:轻量级库式限流与隔离。

原理流程

入口:网关插件
应用:Sentinel / Resilience4j 规则

常见误区

  • 误区:框架配置项名称相同行为就相同。QPS 统计口径、突发控制、排队等待实现各有差异。
  • 误区:框架限流天然分布式。单机框架需配合共享计数才是全局配额。

追问

  • 问:选型看哪些能力?答:维度支持、规则动态推送、集群限流、监控指标、与现有框架集成成本。
  • 问:框架限流与自研如何取舍?答:通用能力优先复用框架;特殊维度与配额模型再自研扩展。

09.2.1.4-020 限流与熔断、降级如何协作?

一句话结论

限流控制进入速率以保护容量;熔断在下游故障时快速切断调用避免等待;降级在受限/故障时提供兜底结果;三者按链路顺序配合:入口限流 → 依赖熔断 → 结果降级,共同防止级联雪崩。

概念解释

  • 限流:流量入口控制。
  • 熔断:下游异常时开路。
  • 降级:受限/故障时兜底体验。
  • 协作:各管一段,指标与开关联动。

原理流程

请求 → 限流放行?
  → 下游熔断状态正常?
    → 调用;异常 → 熔断快速失败
      → 降级兜底返回

常见误区

  • 误区:有了限流就不需要熔断。限流挡不住已进入的慢调用,下游故障仍需熔断切断。
  • 误区:降级可以替代限流。降级是结果兜底,不能控制到达速率,下游仍会被超量请求占用。

追问

  • 问:三者阈值如何联动?答:限流按正常容量,熔断按下游错误率/慢调用触发,降级按优先级开关执行。
  • 问:故障恢复时如何协同?答:熔断半开探测通过后恢复调用,限流阈值与降级开关逐步回退常态。