06.2.3.3 负载均衡与网关
所属:全栈开发面试题库 / 06 后端框架与工程实践 / 06.2 Java Spring 生态 / 06.2.3 Spring Cloud
本节要解决的问题
- OpenFeign 动态代理与负载均衡如何配合,超时、重试、拦截器如何配置?
- Spring Cloud LoadBalancer 提供哪些策略,客户端与服务端负载均衡有何区别?
- Spring Cloud Gateway 路由、过滤器、非阻塞模型如何工作,鉴权、灰度、限流如何落地?
版本前提:Spring Cloud 2023.x / Spring Boot 3.x / Java 17+;默认行为以对应版本文档为准。
06.2.3.3-001 OpenFeign 的原理是什么?
一句话结论
Feign 为接口生成动态代理,方法注解解析出目标服务名、路径、方法与参数;调用时经负载均衡选择实例,再由编码器/解码器与 HTTP 客户端发出请求,把响应反序列化为返回类型。
概念解释
Feign 是声明式 HTTP 客户端:定义接口 + 注解,不手写 HTTP 调用。代理把方法调用转换为 HTTP 请求,服务名由负载均衡解析为实例地址。
示例
@FeignClient(name = "order-service", contextId = "order")
public interface OrderClient {
@GetMapping("/orders/{id}")
OrderDTO getOrder(@PathVariable("id") Long id);
}
spring:
cloud:
openfeign:
client:
config:
default:
connect-timeout: 2000
read-timeout: 5000
常见误区
- 以为 Feign 走 RPC 私有协议:底层仍是 HTTP/HTTP2(可替换客户端实现)。
- 两个同名
@FeignClient未配contextId:Bean 名称冲突导致启动失败。
追问
- Feign 与 RestTemplate 取舍?Feign 声明式、注解配置、易拦截扩展;RestTemplate 更底层、灵活但样板代码多。
- 如何给所有 Feign 请求加 Header?实现
RequestInterceptor注入鉴权头、TraceId。 - Feign 失败会抛什么异常?解码/连接/读超时异常按客户端异常类型抛出,需在调用侧捕获或降级。
06.2.3.3-002 Spring Cloud LoadBalancer 的负载均衡策略有哪些?
一句话结论
内置轮询(RoundRobin)、随机(Random);可基于元数据/权重自定义策略;策略从服务发现实例列表中选一个,替换早期 Ribbon 的客户端均衡实现。
概念解释
LoadBalancer 是客户端侧均衡器:实例列表来自服务发现,过滤不健康实例后按策略选择。默认轮询,自定义策略可读取权重、区域、版本标签。
常见误区
- 仍按 Ribbon 配置项调权重:Spring Cloud 2023.x 已用 LoadBalancer,旧 Ribbon 配置不生效。
- 自定义策略不做实例过滤:把不健康或元数据不匹配的实例纳入选择。
追问
- 权重策略怎么实现?自定义
ReactorLoadBalancer,解析weight元数据按概率抽取。 - 同区域优先怎么选?过滤元数据
zone后在本区域列表内轮询,本区域为空再 fallback。
06.2.3.3-003 Gateway 的核心原理是什么?
一句话结论
Gateway 基于 Spring WebFlux 与 Netty 非阻塞模型,按 Route(断言 + 过滤器链)匹配请求,断言决定是否匹配,过滤器链依次执行改写、鉴权、限流、转发到 lb:// 实例。
概念解释
路由由路由谓词(Path、Header、Host、时间等)与过滤器组成;全局过滤器作用于所有路由,路由过滤器作用于匹配路由。转发时通过服务发现解析负载均衡地址。
示例
spring:
cloud:
gateway:
routes:
- id: order-route
uri: lb://order-service
predicates:
- Path=/order/**
filters:
- StripPrefix=1
常见误区
- 用阻塞式 Servlet 思路写 WebFlux 过滤器:过滤器链是响应式编排,阻塞调用会拖垮事件循环。
- 把业务业务逻辑塞到网关:网关只做入口治理,业务规则仍在服务内。
追问
- Gateway 与 Zuul 差异?Zuul 1 是阻塞 Servlet,Gateway 基于 WebFlux 非阻塞、性能与并发能力更好。
- 动态路由怎么刷新?路由定义可从配置中心/数据库加载并监听刷新,不重启更新路由表。
06.2.3.3-004 网关鉴权、限流、灰度怎么做?
一句话结论
全局过滤器统一校验 Token 与身份,解析后向下游透传用户信息;限流在网关入口按请求路径/用户维度;灰度按版本标签、权重或 Header 路由到对应实例组。
概念解释
鉴权在入口完成一次,下游信任网关注入的身份上下文;灰度通过路由断言或自定义负载均衡过滤标签实例;限流与服务内限流失衡时做两级防护。
常见误区
- 网关鉴权后下游重复校验/重复解析:身份应透传标准化,下游只取上下文。
- 灰度只按 Header 而不控制下游调用链:入口灰度标签未透传到服务间调用,灰度链路断裂。
追问
- 网关如何透传用户身份?把用户 ID、角色、租户写入约定 Header(注意脱敏与防伪造),下游从上下文读取。
- 网关限流与服务限流怎么配合?网关挡大部分流量,服务内做并发与突发兜底。
06.2.3.3-005 调用超时、重试与幂等如何配合?
一句话结论
连接超时与读超时按下游能力分层配置;重试只用于幂等读请求并设置次数、退避与总预算;写接口必须幂等(业务唯一键/状态机),重试不能压垮下游。
概念解释
超时定义「等待多久放弃」,重试定义「失败后再试几次」。两者共同构成调用预算:重试放大流量,非幂等写接口重试会造成重复下单/重复扣款。
常见误区
- 写接口开启自动重试:重复提交产生副作用。
- 重试不设退避与次数:下游故障时重试风暴放大雪崩。
- 超时层层不收敛:入口超时大于下游超时,失败请求堆积。
追问
- 幂等键怎么设计?请求携带业务唯一键(订单号/请求流水号),下游按键去重并记录状态。
- Feign 重试默认开启吗?默认不自动重试,需显式配置重试器;重试仍受读超时约束。
06.2.3.3-006 微服务统一鉴权方案如何设计?
一句话结论
外部请求经网关校验 Token(JWT/OAuth2.1),解析用户与权限后透传内部身份;内部服务间调用用内部凭证或签名校验,按 RBAC/ABAC 在服务内鉴权;Token 失效与撤销在网关统一拦截。
概念解释
身份分层:用户身份由网关入口认证,服务间身份用服务凭证;权限判定可在网关粗筛、服务内细判。JWT 无状态但撤销难,需要令牌轮换与黑名单配合。
常见误区
- 内部服务间直接信任外部 Header:可被伪造,必须由网关注入并校验内部链路。
- 网关做了全部鉴权下游不校验:越权场景下网关规则覆盖不全。
追问
- JWT 如何撤销?短有效期 + 刷新令牌轮换 + 必要时黑名单/版本号校验。
- 服务间调用身份怎么传?服务凭证签名或内部 mTLS,调用链携带服务身份标识。
06.2.3.3-007 Feign 动态代理与契约解析流程是什么?
一句话结论
FeignClientFactoryBean 创建代理;方法级注解(@GetMapping、@PathVariable、@RequestParam)由契约接口解析为 MethodMetadata:HTTP 方法、模板路径、参数占位与查询参数;调用时按元数据构造请求模板。
概念解释
契约是注解到 HTTP 元数据的转换层,参数按注解类型绑定到路径、查询、请求体或头。代理方法调用不直接执行远程逻辑,而是交请求执行器发送。
常见误区
- 路径变量名缺失或不匹配:解析失败或占位符不替换。
- 复杂对象直接放路径参数:应作为请求体或查询参数绑定。
追问
- 契约可以自定义吗?可实现
Contract解析自有注解体系,默认 Spring MVC 契约复用 Web 注解。 - 方法返回异步类型如何处理?Feign 同步执行为主,异步结果由响应式客户端或 CompletableFuture 包装。
06.2.3.3-008 Feign 拦截器、编解码器如何工作?
一句话结论
RequestInterceptor 在请求发出前改写 Header、参数与日志;编码器把请求体序列化为 HTTP 内容,解码器把响应体反序列化为返回类型;两者可按内容类型替换实现。
概念解释
拦截器用于注入鉴权头、TraceId、租户标识;编解码器处理序列化格式(JSON/表单)与错误响应映射。链路顺序:代理 → 契约 → 拦截器 → 编码器 → 客户端 → 解码器。
常见误区
- 拦截器里做远程调用或重 IO:阻塞请求构造,应只做上下文读取与 Header 写入。
- 解码器吞掉错误状态:4xx/5xx 应映射为业务异常,不能统一返回空对象。
追问
- 统一日志怎么加?拦截器记录请求方法/路径/耗时,注意不记录敏感 Header。
- 上传下载文件用什么编解码?配置表单编码器/流解码器,避免内存缓冲大文件。
06.2.3.3-009 Feign 超时与重试默认值是多少?
一句话结论
连接超时与读超时在客户端配置中设置,默认值随客户端实现而定(以对应版本文档为准);默认不启用失败重试;生产应按下游 SLA 显式配置并控制重试次数。
概念解释
超时分建立连接与读取响应两段:连接超时反映网络可达性,读超时反映下游处理速度。重试由重试器实现,与超时独立配置。
常见误区
- 用默认超时承载长耗时接口:慢接口拖垮连接占用。
- 认为配置全局默认就覆盖所有客户端:可按
contextId或服务名覆盖。
追问
- 超时值怎么定?按下游 P99 加上余量设定,读超时大于下游处理 P99,小于入口总预算。
- 超时与线程池如何配合?调用超时后释放等待线程,避免线程堆积。
06.2.3.3-010 Feign、RestTemplate、Dubbo 如何对比选型?
一句话结论
同体系 HTTP 服务调用选 Feign(声明式);底层模板化调用选 RestTemplate;高性能私有 RPC 协议场景评估 Dubbo;选型看协议生态、序列化性能与团队技术栈。
对比
| 维度 | Feign | RestTemplate | Dubbo |
|---|---|---|---|
| 风格 | 声明式接口 | 模板方法 | 接口 + 私有 RPC |
| 协议 | HTTP/HTTP2 | HTTP | TCP/HTTP2 可扩展 |
| 负载均衡 | 集成 LoadBalancer | 集成 LB | 自身注册均衡 |
| 序列化 | JSON 为主 | 可换 | 二进制高性能 |
| 生态 | Spring Cloud | Spring | Apache Dubbo 生态 |
常见误区
- 只看性能选 Dubbo:还要考虑注册中心、运维链路与跨语言需求。
- 认为 Feign 只能 JSON:编码器可替换,但跨语言互操作仍以 JSON 最通用。
追问
- WebClient 与 Feign 如何取舍?响应式链路选 WebClient,同步声明式接口选 Feign。
- 私有协议调用需要网关转换吗?跨协议入口通常由网关或适配层转换。
06.2.3.3-011 负载均衡器如何获取与过滤实例列表?
一句话结论
实例列表供应器从服务发现客户端获取健康实例,按元数据、状态、区域过滤后传给均衡策略;列表变更随注册发现推送更新,过滤规则可自定义。
概念解释
选择分两步:先得到候选实例集合,再在集合内按策略抽取。不健康实例、元数据不匹配实例在候选阶段剔除,避免选中坏节点。
常见误区
- 过滤逻辑写进选择策略:职责不清,列表变更时过滤结果难复用。
- 未排除不健康实例:均衡算法再优也会选到坏节点。
追问
- 实例列表多久刷新?随服务发现推送更新,异常时全量校正。
- 如何排除灰度实例?按元数据标签在供应层过滤,普通消费者不选灰度组。
06.2.3.3-012 轮询、随机、权重、响应时间策略各适用什么场景?
一句话结论
轮询适合实例规格相近的均匀分发;随机降低抖动;权重按实例容量倾斜;响应时间策略优先选快实例(需健康统计支撑);策略选择结合机器规格与下游表现。
对比
| 策略 | 依据 | 适用场景 | 注意点 |
|---|---|---|---|
| 轮询 | 顺序计数 | 同规格实例 | 冷启动实例被等量打满 |
| 随机 | 随机抽取 | 简单均匀 | 分布有小概率倾斜 |
| 权重 | 元数据 weight | 容量不均 | 权重需要持续维护 |
| 响应时间 | 历史时延 | 异构实例/慢节点 | 依赖统计窗口,冷启动需兜底 |
常见误区
- 响应时间策略在实例刚上线时无统计数据:需要初始默认权重或预热。
- 权重只在注册中心配置,策略未读取:流量仍均分。
追问
- 轮询计数器存在哪里?策略实例内存中维护,重启重置,不要求强一致。
- 慢实例如何自动降权?结合健康统计与熔断状态,把长时间失败实例临时移出候选。
06.2.3.3-013 客户端负载均衡与服务端负载均衡的区别?
一句话结论
客户端均衡在调用方进程内从实例列表选实例,直连目标;服务端均衡由独立代理/负载设备选实例,客户端只访问代理地址;前者省一跳,后者统一治理与收敛连接。
概念解释
客户端 LB:负载逻辑在消费者进程,实例列表来自注册中心;服务端 LB:消费者访问固定入口,代理(Nginx/云 LB)转发到后端。微服务内部多用客户端 LB,南北向流量用服务端 LB。
常见误区
- 客户端均衡把实例地址暴露给所有调用方:内部网络可达是前提,跨信任域不适用。
- 服务端均衡承担业务灰度规则:复杂标签过滤在服务端 LB 实现成本高。
追问
- 网关属于哪类?网关是服务端/入口代理,内部服务间多为客户端 LB。
- 两种模式能否混用?入口服务端 LB,服务间客户端 LB,常见组合。
06.2.3.3-014 Gateway 路由断言与过滤器链如何编排?
一句话结论
请求进入后,网关把断言按路由依次匹配,命中的路由绑定其过滤器链;全局过滤器与路由过滤器按顺序合并执行(前置/后置),最后转发到目标 URI;过滤器可改写路径、Header、状态码。
概念解释
断言决定「进哪条路由」,过滤器决定「怎么处理」。过滤器 filter 方法返回响应式链式编排,前置逻辑在转发前,后置逻辑在响应后。
常见误区
- 过滤器顺序混乱:鉴权写在转发之后,无法在入口拦截未授权请求。
- 过滤器里直接
block()阻塞事件循环:响应式链路必须返回非阻塞 Publisher。
追问
- 全局过滤器与路由过滤器优先级?实现排序接口按数值排序,数值小先执行。
- 路径重写怎么配?
StripPrefix、RewritePath过滤器改写转发路径。
06.2.3.3-015 WebFlux 非阻塞模型在网关里意味着什么?
一句话结论
网关基于 Netty 事件循环处理大量并发连接,过滤器链以响应式类型编排,单个事件循环线程可托管多个连接;阻塞调用会占用线程并拖垮吞吐,必须避免。
概念解释
非阻塞模型不按连接分配阻塞线程,IO 与计算回调在事件循环上调度。响应式接口(Mono/Flux)声明异步流水线,阻塞式库调用要切到弹性调度器。
常见误区
- 在过滤器里调用阻塞 JDBC/同步远程客户端:事件循环被阻塞,并发能力骤降。
- 把 Servlet 过滤器经验直接照搬:WebFlux 过滤器签名与执行模型不同。
追问
- 必须用阻塞库怎么办?
subscribeOn切到专用线程池,限制隔离,不占事件循环。 - 网关连接数怎么评估?非阻塞模型连接数高于阻塞容器,但内存与响应式链路深度仍是瓶颈。
06.2.3.3-016 lb:// 转发如何解析到实例?
一句话结论
URI scheme lb 表明目标经负载均衡:网关把服务名交给 LoadBalancer 选健康实例,再把请求转发到实例 IP:端口;解析失败时返回 503。
概念解释
lb://service-name/path 是逻辑地址,不直接对应主机;解析依赖服务发现客户端的实例列表与均衡策略。静态 URI(http://)则直接连固定地址。
常见误区
- 服务未注册仍期望
lb://可用:候选列表为空,路由失败 503。 - 路径拼接错误:网关转发前未正确保留或剥离前缀,下游 404。
追问
- 如何排查
lb://解析失败?核对服务名、命名空间、实例健康状态与均衡候选列表。 - 外部服务能用
lb://吗?不能,外部地址用 http:// 并配置固定上游。
06.2.3.3-017 动态路由如何刷新而不重启网关?
一句话结论
路由定义从配置中心或数据源加载,监听变更事件重建路由表;网关提供路由刷新接口/事件触发重载,新旧路由在切换期间平滑过渡。
概念解释
路由表是网关运行态数据,支持外部化来源。变更发布后触发重载,匹配新规则的请求走新路由;需保证路由一致性与刷新失败回滚。
常见误区
- 路由规则硬编码在本地文件:调整必须重启,失去网关动态能力。
- 刷新路由时不校验规则:错误断言导致全站路由落空。
追问
- 配置中心刷新如何触发网关重载?监听配置变更事件,调用路由刷新方法重建
RouteLocator。 - 动态路由灰度发布?先加灰度路由断言,观察命中再逐步调整权重。
06.2.3.3-018 网关鉴权与身份透传如何防伪造?
一句话结论
外部 Header 不可信,网关入口剥离并重新注入内部身份 Header;内部服务间只接受来自网关/内部链路的身份,配合内部凭证或 mTLS;敏感身份信息脱敏,角色权限在服务内复核。
概念解释
信任边界在网关:任何来自外部的用户身份 Header 先清除,鉴权通过后由网关注入标准化身份。下游不能仅凭外部 Header 授权。
常见误区
- 直接信任外部传入的
X-User-Id:可被任意伪造越权。 - 身份 Header 携带明文敏感信息:应最小化字段,必要时加密/签名。
追问
- 内部服务间如何识别调用来源?服务凭证签名或网格 mTLS,请求携带服务身份。
- Token 校验失败如何响应?返回 401,不向未授权者泄露内部身份信息。
06.2.3.3-019 灰度标签路由与全链路灰度如何衔接?
一句话结论
入口按 Header/用户标签判定灰度分组,网关把灰度标签写入透传 Header;服务间调用继续传递标签,负载均衡按标签选同组实例,形成全链路染色路由。
概念解释
灰度不只在入口切流量,标签要贯穿调用链:消费者调用下游时把标签带上,下游均衡器过滤对应灰度实例组。缺少透传时灰度请求落到正式实例,链路断裂。
常见误区
- 只在网关按权重分流:下游调用丢失标签,灰度链路混入正式实例。
- 灰度组实例注册在普通列表:普通消费者误选灰度实例,需元数据隔离。
追问
- 灰度标签放什么字段?约定 Header(如
X-Gray-Tag),Feign 拦截器与网关过滤器统一写入/读取。 - 灰度回滚怎么切?撤掉灰度断言与标签,权重归 0,灰度实例下线观察。
06.2.3.3-020 调用超时预算如何分层,重试风暴如何防护?
一句话结论
从入口到下游按调用链逐层设定超时:入口总预算 > 编排层等待 > 单次下游调用;重试带次数、退避与总预算上限,熔断在下游故障时停止重试,避免故障放大。
概念解释
超时预算是一条自上而下的时间分配:每层剩余时间减去自身处理开销,不能让内层超时大于外层。重试退避(固定/指数/抖动)错开重试时刻,结合熔断切断无效重试。
常见误区
- 每层超时独立配置互不关联:外层已超时,内层仍长时间占用连接。
- 重试带同步固定间隔:故障期间所有实例同时重试形成风暴。
追问
- 总预算不够分配怎么办?压缩非必要下游调用或并行编排,不能把超时设得超过入口 SLA。
- 重试失败兜底策略?降级返回默认值/缓存结果,记录失败供补偿。