罗罗编程学习记录
本页内容 展开查看

06.2.3.3 负载均衡与网关

所属:全栈开发面试题库 / 06 后端框架与工程实践 / 06.2 Java Spring 生态 / 06.2.3 Spring Cloud

本节要解决的问题

  • OpenFeign 动态代理与负载均衡如何配合,超时、重试、拦截器如何配置?
  • Spring Cloud LoadBalancer 提供哪些策略,客户端与服务端负载均衡有何区别?
  • Spring Cloud Gateway 路由、过滤器、非阻塞模型如何工作,鉴权、灰度、限流如何落地?

版本前提:Spring Cloud 2023.x / Spring Boot 3.x / Java 17+;默认行为以对应版本文档为准。

06.2.3.3-001 OpenFeign 的原理是什么?

一句话结论

Feign 为接口生成动态代理,方法注解解析出目标服务名、路径、方法与参数;调用时经负载均衡选择实例,再由编码器/解码器与 HTTP 客户端发出请求,把响应反序列化为返回类型。

概念解释

Feign 是声明式 HTTP 客户端:定义接口 + 注解,不手写 HTTP 调用。代理把方法调用转换为 HTTP 请求,服务名由负载均衡解析为实例地址。

示例

@FeignClient(name = "order-service", contextId = "order")
public interface OrderClient {
    @GetMapping("/orders/{id}")
    OrderDTO getOrder(@PathVariable("id") Long id);
}
spring:
  cloud:
    openfeign:
      client:
        config:
          default:
            connect-timeout: 2000
            read-timeout: 5000

常见误区

  • 以为 Feign 走 RPC 私有协议:底层仍是 HTTP/HTTP2(可替换客户端实现)。
  • 两个同名 @FeignClient 未配 contextId:Bean 名称冲突导致启动失败。

追问

  • Feign 与 RestTemplate 取舍?Feign 声明式、注解配置、易拦截扩展;RestTemplate 更底层、灵活但样板代码多。
  • 如何给所有 Feign 请求加 Header?实现 RequestInterceptor 注入鉴权头、TraceId。
  • Feign 失败会抛什么异常?解码/连接/读超时异常按客户端异常类型抛出,需在调用侧捕获或降级。

06.2.3.3-002 Spring Cloud LoadBalancer 的负载均衡策略有哪些?

一句话结论

内置轮询(RoundRobin)、随机(Random);可基于元数据/权重自定义策略;策略从服务发现实例列表中选一个,替换早期 Ribbon 的客户端均衡实现。

概念解释

LoadBalancer 是客户端侧均衡器:实例列表来自服务发现,过滤不健康实例后按策略选择。默认轮询,自定义策略可读取权重、区域、版本标签。

常见误区

  • 仍按 Ribbon 配置项调权重:Spring Cloud 2023.x 已用 LoadBalancer,旧 Ribbon 配置不生效。
  • 自定义策略不做实例过滤:把不健康或元数据不匹配的实例纳入选择。

追问

  • 权重策略怎么实现?自定义 ReactorLoadBalancer,解析 weight 元数据按概率抽取。
  • 同区域优先怎么选?过滤元数据 zone 后在本区域列表内轮询,本区域为空再 fallback。

06.2.3.3-003 Gateway 的核心原理是什么?

一句话结论

Gateway 基于 Spring WebFlux 与 Netty 非阻塞模型,按 Route(断言 + 过滤器链)匹配请求,断言决定是否匹配,过滤器链依次执行改写、鉴权、限流、转发到 lb:// 实例。

概念解释

路由由路由谓词(Path、Header、Host、时间等)与过滤器组成;全局过滤器作用于所有路由,路由过滤器作用于匹配路由。转发时通过服务发现解析负载均衡地址。

示例

spring:
  cloud:
    gateway:
      routes:
        - id: order-route
          uri: lb://order-service
          predicates:
            - Path=/order/**
          filters:
            - StripPrefix=1

常见误区

  • 用阻塞式 Servlet 思路写 WebFlux 过滤器:过滤器链是响应式编排,阻塞调用会拖垮事件循环。
  • 把业务业务逻辑塞到网关:网关只做入口治理,业务规则仍在服务内。

追问

  • Gateway 与 Zuul 差异?Zuul 1 是阻塞 Servlet,Gateway 基于 WebFlux 非阻塞、性能与并发能力更好。
  • 动态路由怎么刷新?路由定义可从配置中心/数据库加载并监听刷新,不重启更新路由表。

06.2.3.3-004 网关鉴权、限流、灰度怎么做?

一句话结论

全局过滤器统一校验 Token 与身份,解析后向下游透传用户信息;限流在网关入口按请求路径/用户维度;灰度按版本标签、权重或 Header 路由到对应实例组。

概念解释

鉴权在入口完成一次,下游信任网关注入的身份上下文;灰度通过路由断言或自定义负载均衡过滤标签实例;限流与服务内限流失衡时做两级防护。

常见误区

  • 网关鉴权后下游重复校验/重复解析:身份应透传标准化,下游只取上下文。
  • 灰度只按 Header 而不控制下游调用链:入口灰度标签未透传到服务间调用,灰度链路断裂。

追问

  • 网关如何透传用户身份?把用户 ID、角色、租户写入约定 Header(注意脱敏与防伪造),下游从上下文读取。
  • 网关限流与服务限流怎么配合?网关挡大部分流量,服务内做并发与突发兜底。

06.2.3.3-005 调用超时、重试与幂等如何配合?

一句话结论

连接超时与读超时按下游能力分层配置;重试只用于幂等读请求并设置次数、退避与总预算;写接口必须幂等(业务唯一键/状态机),重试不能压垮下游。

概念解释

超时定义「等待多久放弃」,重试定义「失败后再试几次」。两者共同构成调用预算:重试放大流量,非幂等写接口重试会造成重复下单/重复扣款。

常见误区

  • 写接口开启自动重试:重复提交产生副作用。
  • 重试不设退避与次数:下游故障时重试风暴放大雪崩。
  • 超时层层不收敛:入口超时大于下游超时,失败请求堆积。

追问

  • 幂等键怎么设计?请求携带业务唯一键(订单号/请求流水号),下游按键去重并记录状态。
  • Feign 重试默认开启吗?默认不自动重试,需显式配置重试器;重试仍受读超时约束。

06.2.3.3-006 微服务统一鉴权方案如何设计?

一句话结论

外部请求经网关校验 Token(JWT/OAuth2.1),解析用户与权限后透传内部身份;内部服务间调用用内部凭证或签名校验,按 RBAC/ABAC 在服务内鉴权;Token 失效与撤销在网关统一拦截。

概念解释

身份分层:用户身份由网关入口认证,服务间身份用服务凭证;权限判定可在网关粗筛、服务内细判。JWT 无状态但撤销难,需要令牌轮换与黑名单配合。

常见误区

  • 内部服务间直接信任外部 Header:可被伪造,必须由网关注入并校验内部链路。
  • 网关做了全部鉴权下游不校验:越权场景下网关规则覆盖不全。

追问

  • JWT 如何撤销?短有效期 + 刷新令牌轮换 + 必要时黑名单/版本号校验。
  • 服务间调用身份怎么传?服务凭证签名或内部 mTLS,调用链携带服务身份标识。

06.2.3.3-007 Feign 动态代理与契约解析流程是什么?

一句话结论

FeignClientFactoryBean 创建代理;方法级注解(@GetMapping、@PathVariable、@RequestParam)由契约接口解析为 MethodMetadata:HTTP 方法、模板路径、参数占位与查询参数;调用时按元数据构造请求模板。

概念解释

契约是注解到 HTTP 元数据的转换层,参数按注解类型绑定到路径、查询、请求体或头。代理方法调用不直接执行远程逻辑,而是交请求执行器发送。

常见误区

  • 路径变量名缺失或不匹配:解析失败或占位符不替换。
  • 复杂对象直接放路径参数:应作为请求体或查询参数绑定。

追问

  • 契约可以自定义吗?可实现 Contract 解析自有注解体系,默认 Spring MVC 契约复用 Web 注解。
  • 方法返回异步类型如何处理?Feign 同步执行为主,异步结果由响应式客户端或 CompletableFuture 包装。

06.2.3.3-008 Feign 拦截器、编解码器如何工作?

一句话结论

RequestInterceptor 在请求发出前改写 Header、参数与日志;编码器把请求体序列化为 HTTP 内容,解码器把响应体反序列化为返回类型;两者可按内容类型替换实现。

概念解释

拦截器用于注入鉴权头、TraceId、租户标识;编解码器处理序列化格式(JSON/表单)与错误响应映射。链路顺序:代理 → 契约 → 拦截器 → 编码器 → 客户端 → 解码器。

常见误区

  • 拦截器里做远程调用或重 IO:阻塞请求构造,应只做上下文读取与 Header 写入。
  • 解码器吞掉错误状态:4xx/5xx 应映射为业务异常,不能统一返回空对象。

追问

  • 统一日志怎么加?拦截器记录请求方法/路径/耗时,注意不记录敏感 Header。
  • 上传下载文件用什么编解码?配置表单编码器/流解码器,避免内存缓冲大文件。

06.2.3.3-009 Feign 超时与重试默认值是多少?

一句话结论

连接超时与读超时在客户端配置中设置,默认值随客户端实现而定(以对应版本文档为准);默认不启用失败重试;生产应按下游 SLA 显式配置并控制重试次数。

概念解释

超时分建立连接与读取响应两段:连接超时反映网络可达性,读超时反映下游处理速度。重试由重试器实现,与超时独立配置。

常见误区

  • 用默认超时承载长耗时接口:慢接口拖垮连接占用。
  • 认为配置全局默认就覆盖所有客户端:可按 contextId 或服务名覆盖。

追问

  • 超时值怎么定?按下游 P99 加上余量设定,读超时大于下游处理 P99,小于入口总预算。
  • 超时与线程池如何配合?调用超时后释放等待线程,避免线程堆积。

06.2.3.3-010 Feign、RestTemplate、Dubbo 如何对比选型?

一句话结论

同体系 HTTP 服务调用选 Feign(声明式);底层模板化调用选 RestTemplate;高性能私有 RPC 协议场景评估 Dubbo;选型看协议生态、序列化性能与团队技术栈。

对比

维度 Feign RestTemplate Dubbo
风格 声明式接口 模板方法 接口 + 私有 RPC
协议 HTTP/HTTP2 HTTP TCP/HTTP2 可扩展
负载均衡 集成 LoadBalancer 集成 LB 自身注册均衡
序列化 JSON 为主 可换 二进制高性能
生态 Spring Cloud Spring Apache Dubbo 生态

常见误区

  • 只看性能选 Dubbo:还要考虑注册中心、运维链路与跨语言需求。
  • 认为 Feign 只能 JSON:编码器可替换,但跨语言互操作仍以 JSON 最通用。

追问

  • WebClient 与 Feign 如何取舍?响应式链路选 WebClient,同步声明式接口选 Feign。
  • 私有协议调用需要网关转换吗?跨协议入口通常由网关或适配层转换。

06.2.3.3-011 负载均衡器如何获取与过滤实例列表?

一句话结论

实例列表供应器从服务发现客户端获取健康实例,按元数据、状态、区域过滤后传给均衡策略;列表变更随注册发现推送更新,过滤规则可自定义。

概念解释

选择分两步:先得到候选实例集合,再在集合内按策略抽取。不健康实例、元数据不匹配实例在候选阶段剔除,避免选中坏节点。

常见误区

  • 过滤逻辑写进选择策略:职责不清,列表变更时过滤结果难复用。
  • 未排除不健康实例:均衡算法再优也会选到坏节点。

追问

  • 实例列表多久刷新?随服务发现推送更新,异常时全量校正。
  • 如何排除灰度实例?按元数据标签在供应层过滤,普通消费者不选灰度组。

06.2.3.3-012 轮询、随机、权重、响应时间策略各适用什么场景?

一句话结论

轮询适合实例规格相近的均匀分发;随机降低抖动;权重按实例容量倾斜;响应时间策略优先选快实例(需健康统计支撑);策略选择结合机器规格与下游表现。

对比

策略 依据 适用场景 注意点
轮询 顺序计数 同规格实例 冷启动实例被等量打满
随机 随机抽取 简单均匀 分布有小概率倾斜
权重 元数据 weight 容量不均 权重需要持续维护
响应时间 历史时延 异构实例/慢节点 依赖统计窗口,冷启动需兜底

常见误区

  • 响应时间策略在实例刚上线时无统计数据:需要初始默认权重或预热。
  • 权重只在注册中心配置,策略未读取:流量仍均分。

追问

  • 轮询计数器存在哪里?策略实例内存中维护,重启重置,不要求强一致。
  • 慢实例如何自动降权?结合健康统计与熔断状态,把长时间失败实例临时移出候选。

06.2.3.3-013 客户端负载均衡与服务端负载均衡的区别?

一句话结论

客户端均衡在调用方进程内从实例列表选实例,直连目标;服务端均衡由独立代理/负载设备选实例,客户端只访问代理地址;前者省一跳,后者统一治理与收敛连接。

概念解释

客户端 LB:负载逻辑在消费者进程,实例列表来自注册中心;服务端 LB:消费者访问固定入口,代理(Nginx/云 LB)转发到后端。微服务内部多用客户端 LB,南北向流量用服务端 LB。

常见误区

  • 客户端均衡把实例地址暴露给所有调用方:内部网络可达是前提,跨信任域不适用。
  • 服务端均衡承担业务灰度规则:复杂标签过滤在服务端 LB 实现成本高。

追问

  • 网关属于哪类?网关是服务端/入口代理,内部服务间多为客户端 LB。
  • 两种模式能否混用?入口服务端 LB,服务间客户端 LB,常见组合。

06.2.3.3-014 Gateway 路由断言与过滤器链如何编排?

一句话结论

请求进入后,网关把断言按路由依次匹配,命中的路由绑定其过滤器链;全局过滤器与路由过滤器按顺序合并执行(前置/后置),最后转发到目标 URI;过滤器可改写路径、Header、状态码。

概念解释

断言决定「进哪条路由」,过滤器决定「怎么处理」。过滤器 filter 方法返回响应式链式编排,前置逻辑在转发前,后置逻辑在响应后。

常见误区

  • 过滤器顺序混乱:鉴权写在转发之后,无法在入口拦截未授权请求。
  • 过滤器里直接 block() 阻塞事件循环:响应式链路必须返回非阻塞 Publisher。

追问

  • 全局过滤器与路由过滤器优先级?实现排序接口按数值排序,数值小先执行。
  • 路径重写怎么配?StripPrefix、RewritePath 过滤器改写转发路径。

06.2.3.3-015 WebFlux 非阻塞模型在网关里意味着什么?

一句话结论

网关基于 Netty 事件循环处理大量并发连接,过滤器链以响应式类型编排,单个事件循环线程可托管多个连接;阻塞调用会占用线程并拖垮吞吐,必须避免。

概念解释

非阻塞模型不按连接分配阻塞线程,IO 与计算回调在事件循环上调度。响应式接口(Mono/Flux)声明异步流水线,阻塞式库调用要切到弹性调度器。

常见误区

  • 在过滤器里调用阻塞 JDBC/同步远程客户端:事件循环被阻塞,并发能力骤降。
  • 把 Servlet 过滤器经验直接照搬:WebFlux 过滤器签名与执行模型不同。

追问

  • 必须用阻塞库怎么办?subscribeOn 切到专用线程池,限制隔离,不占事件循环。
  • 网关连接数怎么评估?非阻塞模型连接数高于阻塞容器,但内存与响应式链路深度仍是瓶颈。

06.2.3.3-016 lb:// 转发如何解析到实例?

一句话结论

URI scheme lb 表明目标经负载均衡:网关把服务名交给 LoadBalancer 选健康实例,再把请求转发到实例 IP:端口;解析失败时返回 503。

概念解释

lb://service-name/path 是逻辑地址,不直接对应主机;解析依赖服务发现客户端的实例列表与均衡策略。静态 URI(http://)则直接连固定地址。

常见误区

  • 服务未注册仍期望 lb:// 可用:候选列表为空,路由失败 503。
  • 路径拼接错误:网关转发前未正确保留或剥离前缀,下游 404。

追问

  • 如何排查 lb:// 解析失败?核对服务名、命名空间、实例健康状态与均衡候选列表。
  • 外部服务能用 lb:// 吗?不能,外部地址用 http:// 并配置固定上游。

06.2.3.3-017 动态路由如何刷新而不重启网关?

一句话结论

路由定义从配置中心或数据源加载,监听变更事件重建路由表;网关提供路由刷新接口/事件触发重载,新旧路由在切换期间平滑过渡。

概念解释

路由表是网关运行态数据,支持外部化来源。变更发布后触发重载,匹配新规则的请求走新路由;需保证路由一致性与刷新失败回滚。

常见误区

  • 路由规则硬编码在本地文件:调整必须重启,失去网关动态能力。
  • 刷新路由时不校验规则:错误断言导致全站路由落空。

追问

  • 配置中心刷新如何触发网关重载?监听配置变更事件,调用路由刷新方法重建 RouteLocator。
  • 动态路由灰度发布?先加灰度路由断言,观察命中再逐步调整权重。

06.2.3.3-018 网关鉴权与身份透传如何防伪造?

一句话结论

外部 Header 不可信,网关入口剥离并重新注入内部身份 Header;内部服务间只接受来自网关/内部链路的身份,配合内部凭证或 mTLS;敏感身份信息脱敏,角色权限在服务内复核。

概念解释

信任边界在网关:任何来自外部的用户身份 Header 先清除,鉴权通过后由网关注入标准化身份。下游不能仅凭外部 Header 授权。

常见误区

  • 直接信任外部传入的 X-User-Id:可被任意伪造越权。
  • 身份 Header 携带明文敏感信息:应最小化字段,必要时加密/签名。

追问

  • 内部服务间如何识别调用来源?服务凭证签名或网格 mTLS,请求携带服务身份。
  • Token 校验失败如何响应?返回 401,不向未授权者泄露内部身份信息。

06.2.3.3-019 灰度标签路由与全链路灰度如何衔接?

一句话结论

入口按 Header/用户标签判定灰度分组,网关把灰度标签写入透传 Header;服务间调用继续传递标签,负载均衡按标签选同组实例,形成全链路染色路由。

概念解释

灰度不只在入口切流量,标签要贯穿调用链:消费者调用下游时把标签带上,下游均衡器过滤对应灰度实例组。缺少透传时灰度请求落到正式实例,链路断裂。

常见误区

  • 只在网关按权重分流:下游调用丢失标签,灰度链路混入正式实例。
  • 灰度组实例注册在普通列表:普通消费者误选灰度实例,需元数据隔离。

追问

  • 灰度标签放什么字段?约定 Header(如 X-Gray-Tag),Feign 拦截器与网关过滤器统一写入/读取。
  • 灰度回滚怎么切?撤掉灰度断言与标签,权重归 0,灰度实例下线观察。

06.2.3.3-020 调用超时预算如何分层,重试风暴如何防护?

一句话结论

从入口到下游按调用链逐层设定超时:入口总预算 > 编排层等待 > 单次下游调用;重试带次数、退避与总预算上限,熔断在下游故障时停止重试,避免故障放大。

概念解释

超时预算是一条自上而下的时间分配:每层剩余时间减去自身处理开销,不能让内层超时大于外层。重试退避(固定/指数/抖动)错开重试时刻,结合熔断切断无效重试。

常见误区

  • 每层超时独立配置互不关联:外层已超时,内层仍长时间占用连接。
  • 重试带同步固定间隔:故障期间所有实例同时重试形成风暴。

追问

  • 总预算不够分配怎么办?压缩非必要下游调用或并行编排,不能把超时设得超过入口 SLA。
  • 重试失败兜底策略?降级返回默认值/缓存结果,记录失败供补偿。