罗罗编程学习记录
本页内容 展开查看

06.9.4 网关高可用与配置灰度

所属:全栈开发面试题库 / 06 后端框架与工程实践 / 06.9 API 网关与 BFF

覆盖范围

  • 网关集群多实例与无状态化
  • 配置中心与路由动态下发
  • 灰度发布(按用户/Header/权重路由)
  • 配置变更的灰度、回滚与审计
  • 网关自身故障演练与降级

高频题速览

编号 题目 难度 频率
06.9.4-001 网关怎么做到高可用? 基础 ★★★★★
06.9.4-002 网关配置怎么动态生效?为什么不能 reload? 进阶 ★★★★
06.9.4-003 灰度发布在网关层怎么实现? 进阶 ★★★★★
06.9.4-004 按权重灰度和按用户灰度的区别? 进阶 ★★★★
06.9.4-005 配置变更怎么灰度与回滚? 高级 ★★★
06.9.4-006 网关配置中心挂了怎么办? 进阶 ★★★★
06.9.4-007 网关自身故障如何降级? 高级 ★★★
06.9.4-008 怎么做网关变更的可观测与审计? 高级 ★★★

06.9.4-001 网关怎么做到高可用?

频率 ★★★★★ | 难度 基础

一句话结论

网关本身设计为无状态(会话/限流计数外置到 Redis),多实例部署在上层 LB 之后,任何单实例故障由 LB 摘除;跨可用区部署,配合健康检查与自动扩容。

概念解释

  • 无状态:网关实例不保存会话,限流计数、黑名单等存 Redis。
  • 多实例:LB 后面挂 N 个网关 Pod,健康检查失败自动剔除。
  • 多 AZ:跨可用区部署,单 AZ 故障不影响整体。

常见误区

  • 误区:网关存了会话就高可用。正解:状态必须外置,否则实例故障会丢会话。
  • 误区:一个网关实例够了。正解:网关是所有流量入口,必须多副本。

追问 / 延伸

  • 网关和 LB 谁做健康检查?LB 做四层健康检查,网关实例自身也做上游健康检查。

06.9.4-002 网关配置怎么动态生效?为什么不能 reload?

频率 ★★★★ | 难度 进阶

一句话结论

现代网关(APISIX 用 etcd、SCG 用配置中心 + 监听)通过配置中心推送变更,worker 热加载路由规则而不重启进程;传统 Nginx reload 会平滑断开连接、有延迟与抖动,动态网关追求秒级、无损生效。

概念解释

  • 配置中心:etcd/Nacos/Consul 存路由规则,watch 推送到网关实例。
  • 热加载:worker 进程不重启,只更新内存里的路由表。
  • reload 的问题:Nginx reload 会重新加载 worker,虽然优雅但有连接切换成本。

常见误区

  • 误区:改路由后重启网关实例。正解:动态配置下发,避免重启抖动。
  • 误区:配置变更不通知。正解:必须有 watch 机制保证所有实例最终一致。

06.9.4-003 灰度发布在网关层怎么实现?

频率 ★★★★★ | 难度 进阶

一句话结论

网关根据请求特征(用户 ID、Header、Cookie、版本号、权重)把请求路由到新版本实例,实现灰度放量;先小流量验证,再逐步扩大,异常时随时切回旧版本。

概念解释

  • 灰度维度:内部测试用户、白名单 Header、按用户 ID hash 取模、按权重百分比。
  • 路由规则:同一服务配两条路由,一条指向 stable、一条指向 canary,按谓词匹配。
  • 配合:服务实例打标签(version=canary),网关/负载均衡按标签路由。

原理流程

  1. 部署 v2 实例,带标签 version=gray。
  2. 网关配置:Header X-Gray=true 或 5% 流量 → v2。
  3. 观察 v2 指标,逐步提权重到 100%,异常则切回 v1。

代码 / 示例

# 权重灰度示意:95% 走 stable,5% 走 canary
routes:
  - id: stable
    uri: lb://order-service?version=stable
    weight: 95
  - id: canary
    uri: lb://order-service?version=canary
    weight: 5

常见误区

  • 误区:灰度只看 QPS。正解:必须结合错误率、延迟、业务指标(订单成功率)观察。
  • 误区:灰度流量直接打全量用户。正解:先内部/白名单,再百分比放量。

追问 / 延伸

  • 灰度与服务网格的关系?Mesh(Istio)也能做流量权重(见 06.10.4),入口网关与 Mesh 需协同,避免规则冲突。

06.9.4-004 按权重灰度和按用户灰度的区别?

频率 ★★★★ | 难度 进阶

一句话结论

按权重(百分比)随机分流,适合技术验证、A/B 测试;按用户灰度(白名单/指定用户组)让特定用户稳定命中新版本,适合邀请测试、灰度客户,避免同一用户一会儿 v1 一会儿 v2。

概念解释

  • 权重灰度:请求级随机,用户体验不一致(同一用户可能两次请求不同版本)。
  • 用户灰度:按 user_id hash 或白名单,同一用户始终命中同一版本,体验一致。
  • 会话粘滞:必要时用 cookie 固定版本。

常见误区

  • 误区:按权重灰度给同一用户混用版本。正解:客户端有状态时要按用户粘滞,否则报错难以复现。

06.9.4-005 配置变更怎么灰度与回滚?

频率 ★★★ | 难度 高级

一句话结论

网关配置变更走版本管理(Git 或配置中心版本号),先在小范围实例/小流量灰度,观察指标后全量;出问题按版本号一键回滚到上一个已知良好配置。

概念解释

  • 配置版本:每次变更生成新版本,可追溯。
  • 灰度发布:配置先推到 1 个实例,再逐步全量。
  • 回滚:切换到上一版本,秒级生效。

常见误区

  • 误区:配置直接全量推。正解:配置错误(如路由写错)会影响所有流量,必须灰度。

06.9.4-006 网关配置中心挂了怎么办?

频率 ★★★★ | 难度 进阶

一句话结论

网关实例本地缓存最近一次成功拉取的配置,配置中心不可用时继续按本地缓存运行;配置中心恢复后再同步,不影响线上已有的转发能力。

概念解释

  • 本地快照:每个实例把当前路由表落本地盘/内存。
  • 降级:配置中心故障 = 不能改配置,不是不能转发。
  • 恢复:中心回来后自动拉最新版本。

常见误区

  • 误区:配置中心挂了网关就不转发。正解:网关转发依赖本地配置快照,配置中心只负责变更。

06.9.4-007 网关自身故障如何降级?

频率 ★★★ | 难度 高级

一句话结论

网关整体故障时,上层 LB 可切换到备用集群或回源到静态兜底页;关键路由配置冗余,网关实例自身耗尽(线程/连接池)时自动熔断下游并返回 503,避免雪崩。

概念解释

  • 多活:两个网关集群,主集群故障切备用。
  • 资源隔离:连接池/线程池打满时,新请求快速失败而不是排队。
  • 兜底:静态资源、健康检查接口由边缘层直接返回。

常见误区

  • 误区:网关是单点瓶颈。正解:网关无状态可水平扩,但要预留容量并演练故障切换。

06.9.4-008 怎么做网关变更的可观测与审计?

频率 ★★★ | 难度 高级

一句话结论

所有配置变更记录操作人、时间、diff、审批人,接入日志与指标;转发流量采集 RED(Rate/Error/Duration)指标,异常告警。

概念解释

  • 审计:配置变更审计日志,谁改了哪条路由。
  • 指标:QPS、错误率、P99 延迟、上游实例数。
  • 告警:错误率突增、某路由 4xx/5xx 比例超阈值。

常见误区

  • 误区:配置变更无记录。正解:网关是关键基础设施,变更必须可审计、可回滚。

06.9.4-009 网关配置变更怎么做到灰度实例?

频率 ★★ | 难度 进阶

一句话结论

配置中心支持按实例标签灰度:先把新配置推给带 gray=true 标签的网关实例,观察指标无异常后全量;这样即使配置错误,影响面也只是灰度实例。

概念解释

  • 实例标签:网关实例注册时带 metadata。
  • 灰度推送:配置中心按标签定向下发。
  • 全量:验证后推所有实例。

06.9.4-010 怎么做网关限流规则的动态调整?

频率 ★★ | 难度 进阶

一句话结论

限流规则存配置中心(Nacos),运营在控制台调整 QPS 阈值,网关监听变更热生效,不用重启;紧急情况(被攻击)可一键收紧限流。

概念解释

  • 规则即配置:限流阈值、黑名单都是配置。
  • 动态生效:配置推送,网关更新内存规则。
  • 紧急开关:黑名单、全局禁调。

06.9.4-011 网关怎么做多活?

频率 ★★ | 难度 高级

一句话结论

多可用区部署网关实例,跨 AZ 负载均衡;单 AZ 故障时流量自动切到其他 AZ;全局多活需要 DNS 调度或 Anycast,成本高,中小规模用多 AZ 即可。

06.9.4-012 网关配置错误怎么快速回滚?

频率 ★★ | 难度 进阶

一句话结论

配置中心有版本历史,一键回滚到上一版本;网关热加载秒级生效;紧急情况切回上一个已知良好路由,流量恢复。

06.9.4-013 网关怎么做流量监控?

频率 ★★ | 难度 基础

一句话结论

网关采集 RED 指标(Rate/Error/Duration),接入 Prometheus/Grafana;错误率突增、P99 升高告警。

06.9.4-014 网关怎么做配置审计?

频率 ★★ | 难度 进阶

一句话结论

所有配置变更记录操作人、时间、diff、审批人;可回滚;配置是关键基础设施,变更必须可审计。

06.9.4-015 网关怎么做流量监控?

频率 ★★ | 难度 基础

一句话结论

网关采集 RED 指标(Rate/Error/Duration),接入 Prometheus/Grafana;错误率突增、P99 升高告警。

06.9.4-016 网关怎么做配置审计?

频率 ★★ | 难度 进阶

一句话结论

所有配置变更记录操作人、时间、diff、审批人;可回滚;配置是关键基础设施,变更必须可审计。

06.9.4-017 网关怎么做多机房?

频率 ★★ | 难度 进阶

考察点

  • 同城双活、异地多活
  • 流量调度

参考答案

  • 多机房部署网关,DNS/GSLB 按地域路由
  • 单机房故障切另一机房
  • 配置中心多机房同步
  • 数据库跨机房同步(或就近访问)
  • 网关无状态,容易多机房

追问

  • 异地多活的难点?(数据同步延迟、一致性、流量调度复杂)

06.9.4-018 网关怎么做蓝绿发布?

频率 ★★ | 难度 进阶

考察点

  • 新版本网关和旧版本并行,流量逐步切
  • 回滚快

参考答案

  • 蓝绿部署:两套网关集群,绿集群跑新版本
  • 流量 1% → 10% → 50% → 100% 逐步切到绿
  • 发现问题立即切回蓝(旧版本)
  • 配置变更也可蓝绿(先新实例生效,再切流量)

追问

  • 蓝绿和灰度区别?(蓝绿是整体切换,灰度是按比例/用户切片)

06.9.4-019 网关配置怎么版本管理?

频率 ★★ | 难度 进阶

考察点

  • 配置即代码、Git 管理、审批
  • 可回滚

参考答案

  • 网关配置存 Git(声明式配置),变更走 PR 审批
  • 每次变更记录版本,可回滚到任意版本
  • 配置变更和代码部署一样走 CI/CD
  • 避免在管理界面手改配置(不可追溯)

追问

  • 为什么配置不能手改?(手改没有审计,回滚困难,多人改冲突)

06.9.4-020 网关怎么压测?

频率 ★ | 难度 进阶

考察点

  • 网关本身是瓶颈点
  • 单机 QPS、延迟、连接数

参考答案

  • 压测网关本身(wrk/JMeter),测单机 QPS 和延迟
  • 压测全链路(网关 → 后端),看网关瓶颈
  • 关注 P99 延迟,网关不能增加太多延迟(<10ms)
  • 连接数压测:网关能撑多少并发连接

追问

  • 网关延迟为什么要小?(网关是所有请求入口,延迟叠加到每个请求)

待整理清单

  • [ ] 各网关具体灰度配置语法(APISIX/Kong 待确认版本参数)
  • [ ] 网关多活切换的 DNS/LB 方案(归 08.5 负载均衡,此处仅列边界)
  • [ ] 配置灰度放量的节奏数字(待确认团队实践)