06.9.4 网关高可用与配置灰度
所属:全栈开发面试题库 / 06 后端框架与工程实践 / 06.9 API 网关与 BFF
覆盖范围
- 网关集群多实例与无状态化
- 配置中心与路由动态下发
- 灰度发布(按用户/Header/权重路由)
- 配置变更的灰度、回滚与审计
- 网关自身故障演练与降级
高频题速览
| 编号 | 题目 | 难度 | 频率 |
|---|---|---|---|
| 06.9.4-001 | 网关怎么做到高可用? | 基础 | ★★★★★ |
| 06.9.4-002 | 网关配置怎么动态生效?为什么不能 reload? | 进阶 | ★★★★ |
| 06.9.4-003 | 灰度发布在网关层怎么实现? | 进阶 | ★★★★★ |
| 06.9.4-004 | 按权重灰度和按用户灰度的区别? | 进阶 | ★★★★ |
| 06.9.4-005 | 配置变更怎么灰度与回滚? | 高级 | ★★★ |
| 06.9.4-006 | 网关配置中心挂了怎么办? | 进阶 | ★★★★ |
| 06.9.4-007 | 网关自身故障如何降级? | 高级 | ★★★ |
| 06.9.4-008 | 怎么做网关变更的可观测与审计? | 高级 | ★★★ |
06.9.4-001 网关怎么做到高可用?
频率 ★★★★★ | 难度 基础
一句话结论
网关本身设计为无状态(会话/限流计数外置到 Redis),多实例部署在上层 LB 之后,任何单实例故障由 LB 摘除;跨可用区部署,配合健康检查与自动扩容。
概念解释
- 无状态:网关实例不保存会话,限流计数、黑名单等存 Redis。
- 多实例:LB 后面挂 N 个网关 Pod,健康检查失败自动剔除。
- 多 AZ:跨可用区部署,单 AZ 故障不影响整体。
常见误区
- 误区:网关存了会话就高可用。正解:状态必须外置,否则实例故障会丢会话。
- 误区:一个网关实例够了。正解:网关是所有流量入口,必须多副本。
追问 / 延伸
- 网关和 LB 谁做健康检查?LB 做四层健康检查,网关实例自身也做上游健康检查。
06.9.4-002 网关配置怎么动态生效?为什么不能 reload?
频率 ★★★★ | 难度 进阶
一句话结论
现代网关(APISIX 用 etcd、SCG 用配置中心 + 监听)通过配置中心推送变更,worker 热加载路由规则而不重启进程;传统 Nginx reload 会平滑断开连接、有延迟与抖动,动态网关追求秒级、无损生效。
概念解释
- 配置中心:etcd/Nacos/Consul 存路由规则,watch 推送到网关实例。
- 热加载:worker 进程不重启,只更新内存里的路由表。
- reload 的问题:Nginx reload 会重新加载 worker,虽然优雅但有连接切换成本。
常见误区
- 误区:改路由后重启网关实例。正解:动态配置下发,避免重启抖动。
- 误区:配置变更不通知。正解:必须有 watch 机制保证所有实例最终一致。
06.9.4-003 灰度发布在网关层怎么实现?
频率 ★★★★★ | 难度 进阶
一句话结论
网关根据请求特征(用户 ID、Header、Cookie、版本号、权重)把请求路由到新版本实例,实现灰度放量;先小流量验证,再逐步扩大,异常时随时切回旧版本。
概念解释
- 灰度维度:内部测试用户、白名单 Header、按用户 ID hash 取模、按权重百分比。
- 路由规则:同一服务配两条路由,一条指向 stable、一条指向 canary,按谓词匹配。
- 配合:服务实例打标签(version=canary),网关/负载均衡按标签路由。
原理流程
- 部署 v2 实例,带标签
version=gray。 - 网关配置:Header
X-Gray=true或 5% 流量 → v2。 - 观察 v2 指标,逐步提权重到 100%,异常则切回 v1。
代码 / 示例
# 权重灰度示意:95% 走 stable,5% 走 canary
routes:
- id: stable
uri: lb://order-service?version=stable
weight: 95
- id: canary
uri: lb://order-service?version=canary
weight: 5
常见误区
- 误区:灰度只看 QPS。正解:必须结合错误率、延迟、业务指标(订单成功率)观察。
- 误区:灰度流量直接打全量用户。正解:先内部/白名单,再百分比放量。
追问 / 延伸
- 灰度与服务网格的关系?Mesh(Istio)也能做流量权重(见 06.10.4),入口网关与 Mesh 需协同,避免规则冲突。
06.9.4-004 按权重灰度和按用户灰度的区别?
频率 ★★★★ | 难度 进阶
一句话结论
按权重(百分比)随机分流,适合技术验证、A/B 测试;按用户灰度(白名单/指定用户组)让特定用户稳定命中新版本,适合邀请测试、灰度客户,避免同一用户一会儿 v1 一会儿 v2。
概念解释
- 权重灰度:请求级随机,用户体验不一致(同一用户可能两次请求不同版本)。
- 用户灰度:按 user_id hash 或白名单,同一用户始终命中同一版本,体验一致。
- 会话粘滞:必要时用 cookie 固定版本。
常见误区
- 误区:按权重灰度给同一用户混用版本。正解:客户端有状态时要按用户粘滞,否则报错难以复现。
06.9.4-005 配置变更怎么灰度与回滚?
频率 ★★★ | 难度 高级
一句话结论
网关配置变更走版本管理(Git 或配置中心版本号),先在小范围实例/小流量灰度,观察指标后全量;出问题按版本号一键回滚到上一个已知良好配置。
概念解释
- 配置版本:每次变更生成新版本,可追溯。
- 灰度发布:配置先推到 1 个实例,再逐步全量。
- 回滚:切换到上一版本,秒级生效。
常见误区
- 误区:配置直接全量推。正解:配置错误(如路由写错)会影响所有流量,必须灰度。
06.9.4-006 网关配置中心挂了怎么办?
频率 ★★★★ | 难度 进阶
一句话结论
网关实例本地缓存最近一次成功拉取的配置,配置中心不可用时继续按本地缓存运行;配置中心恢复后再同步,不影响线上已有的转发能力。
概念解释
- 本地快照:每个实例把当前路由表落本地盘/内存。
- 降级:配置中心故障 = 不能改配置,不是不能转发。
- 恢复:中心回来后自动拉最新版本。
常见误区
- 误区:配置中心挂了网关就不转发。正解:网关转发依赖本地配置快照,配置中心只负责变更。
06.9.4-007 网关自身故障如何降级?
频率 ★★★ | 难度 高级
一句话结论
网关整体故障时,上层 LB 可切换到备用集群或回源到静态兜底页;关键路由配置冗余,网关实例自身耗尽(线程/连接池)时自动熔断下游并返回 503,避免雪崩。
概念解释
- 多活:两个网关集群,主集群故障切备用。
- 资源隔离:连接池/线程池打满时,新请求快速失败而不是排队。
- 兜底:静态资源、健康检查接口由边缘层直接返回。
常见误区
- 误区:网关是单点瓶颈。正解:网关无状态可水平扩,但要预留容量并演练故障切换。
06.9.4-008 怎么做网关变更的可观测与审计?
频率 ★★★ | 难度 高级
一句话结论
所有配置变更记录操作人、时间、diff、审批人,接入日志与指标;转发流量采集 RED(Rate/Error/Duration)指标,异常告警。
概念解释
- 审计:配置变更审计日志,谁改了哪条路由。
- 指标:QPS、错误率、P99 延迟、上游实例数。
- 告警:错误率突增、某路由 4xx/5xx 比例超阈值。
常见误区
- 误区:配置变更无记录。正解:网关是关键基础设施,变更必须可审计、可回滚。
06.9.4-009 网关配置变更怎么做到灰度实例?
频率 ★★ | 难度 进阶
一句话结论
配置中心支持按实例标签灰度:先把新配置推给带 gray=true 标签的网关实例,观察指标无异常后全量;这样即使配置错误,影响面也只是灰度实例。
概念解释
- 实例标签:网关实例注册时带 metadata。
- 灰度推送:配置中心按标签定向下发。
- 全量:验证后推所有实例。
06.9.4-010 怎么做网关限流规则的动态调整?
频率 ★★ | 难度 进阶
一句话结论
限流规则存配置中心(Nacos),运营在控制台调整 QPS 阈值,网关监听变更热生效,不用重启;紧急情况(被攻击)可一键收紧限流。
概念解释
- 规则即配置:限流阈值、黑名单都是配置。
- 动态生效:配置推送,网关更新内存规则。
- 紧急开关:黑名单、全局禁调。
06.9.4-011 网关怎么做多活?
频率 ★★ | 难度 高级
一句话结论
多可用区部署网关实例,跨 AZ 负载均衡;单 AZ 故障时流量自动切到其他 AZ;全局多活需要 DNS 调度或 Anycast,成本高,中小规模用多 AZ 即可。
06.9.4-012 网关配置错误怎么快速回滚?
频率 ★★ | 难度 进阶
一句话结论
配置中心有版本历史,一键回滚到上一版本;网关热加载秒级生效;紧急情况切回上一个已知良好路由,流量恢复。
06.9.4-013 网关怎么做流量监控?
频率 ★★ | 难度 基础
一句话结论
网关采集 RED 指标(Rate/Error/Duration),接入 Prometheus/Grafana;错误率突增、P99 升高告警。
06.9.4-014 网关怎么做配置审计?
频率 ★★ | 难度 进阶
一句话结论
所有配置变更记录操作人、时间、diff、审批人;可回滚;配置是关键基础设施,变更必须可审计。
06.9.4-015 网关怎么做流量监控?
频率 ★★ | 难度 基础
一句话结论
网关采集 RED 指标(Rate/Error/Duration),接入 Prometheus/Grafana;错误率突增、P99 升高告警。
06.9.4-016 网关怎么做配置审计?
频率 ★★ | 难度 进阶
一句话结论
所有配置变更记录操作人、时间、diff、审批人;可回滚;配置是关键基础设施,变更必须可审计。
06.9.4-017 网关怎么做多机房?
频率 ★★ | 难度 进阶
考察点
- 同城双活、异地多活
- 流量调度
参考答案
- 多机房部署网关,DNS/GSLB 按地域路由
- 单机房故障切另一机房
- 配置中心多机房同步
- 数据库跨机房同步(或就近访问)
- 网关无状态,容易多机房
追问
- 异地多活的难点?(数据同步延迟、一致性、流量调度复杂)
06.9.4-018 网关怎么做蓝绿发布?
频率 ★★ | 难度 进阶
考察点
- 新版本网关和旧版本并行,流量逐步切
- 回滚快
参考答案
- 蓝绿部署:两套网关集群,绿集群跑新版本
- 流量 1% → 10% → 50% → 100% 逐步切到绿
- 发现问题立即切回蓝(旧版本)
- 配置变更也可蓝绿(先新实例生效,再切流量)
追问
- 蓝绿和灰度区别?(蓝绿是整体切换,灰度是按比例/用户切片)
06.9.4-019 网关配置怎么版本管理?
频率 ★★ | 难度 进阶
考察点
- 配置即代码、Git 管理、审批
- 可回滚
参考答案
- 网关配置存 Git(声明式配置),变更走 PR 审批
- 每次变更记录版本,可回滚到任意版本
- 配置变更和代码部署一样走 CI/CD
- 避免在管理界面手改配置(不可追溯)
追问
- 为什么配置不能手改?(手改没有审计,回滚困难,多人改冲突)
06.9.4-020 网关怎么压测?
频率 ★ | 难度 进阶
考察点
- 网关本身是瓶颈点
- 单机 QPS、延迟、连接数
参考答案
- 压测网关本身(wrk/JMeter),测单机 QPS 和延迟
- 压测全链路(网关 → 后端),看网关瓶颈
- 关注 P99 延迟,网关不能增加太多延迟(<10ms)
- 连接数压测:网关能撑多少并发连接
追问
- 网关延迟为什么要小?(网关是所有请求入口,延迟叠加到每个请求)
待整理清单
- [ ] 各网关具体灰度配置语法(APISIX/Kong 待确认版本参数)
- [ ] 网关多活切换的 DNS/LB 方案(归 08.5 负载均衡,此处仅列边界)
- [ ] 配置灰度放量的节奏数字(待确认团队实践)