罗罗编程学习记录
本页内容 展开查看

08.5.1 L4 与 L7 负载均衡原理

所属:全栈开发面试题库 / 08 云原生与 DevOps / 08.5 负载均衡与流量接入

覆盖范围

  • L4 与 L7 负载均衡的分层差异、典型产品(LVS/HAProxy/Nginx/Envoy)
  • LVS 三种转发模式(NAT/DR/TUNNEL)与调度算法
  • HAProxy 与 Nginx 作为 L7 的协议处理能力
  • 连接复用、会话保持、健康检查、慢启动
  • 四层与七层在性能、功能、可观测性上的取舍

高频题速览

编号 题目 难度 频率
08.5.1-001 L4 与 L7 负载均衡的本质区别是什么? 基础 ★★★★★
08.5.1-002 LVS 的 NAT、DR、TUNNEL 三种模式有何区别? 进阶 ★★★★★
08.5.1-003 LVS 常用调度算法有哪些?分别适用什么场景? 进阶 ★★★★
08.5.1-004 DR 模式为什么要求 RS 与Director 在同一二层网络? 进阶 ★★★★
08.5.1-005 Nginx/HAProxy 作为 L7 相比 LVS 多做了什么? 进阶 ★★★★★
08.5.1-006 什么是会话保持?常见实现方式有哪些? 进阶 ★★★★
08.5.1-007 负载均衡的健康检查如何工作?主动与被动有何区别? 进阶 ★★★★
08.5.1-008 为什么七层反向代理需要连接池与连接复用? 进阶 ★★★★
08.5.1-009 LVS 为什么不支持 HTTP 层面的路由与改写? 基础 ★★★★
08.5.1-010 四层与七层在高可用架构中如何配合? 高级 ★★★★

08.5.1-001 L4 与 L7 负载均衡的本质区别是什么?

一句话结论

L4 负载均衡依据 IP 与端口在传输层转发报文,不解析应用层内容;L7 负载均衡解析 HTTP/HTTPS/gRPC 等应用层协议,按 URL、Header、Cookie 等内容做路由与改写。

概念解释

  • L4:工作在 TCP/UDP 层,基于五元组(源 IP、源端口、目的 IP、目的端口、协议)选择后端,报文转发后不关心 payload。
  • L7:终止客户端连接,作为应用层代理重新与后端建连,能看到 HTTP 方法、路径、Host、Header、Body。
  • 典型 L4 产品:LVS、IPVS、云厂商 SLB 的四层监听、DPVS。
  • 典型 L7 产品:Nginx、HAProxy、Envoy、Traefik、Ingress-Nginx。

原理流程

  1. 客户端请求到达负载均衡器。
  2. L4:查连接哈希表,按调度算法选后端,改写目的 IP/端口或直接封装转发,报文继续流向后端。
  3. L7:与客户端完成 TCP 握手并解析 HTTP 请求,按规则选后端,向上游发起新连接,回包后再由代理拼装响应返回。
  4. L7 可以在转发前做鉴权、限流、改写、缓存、协议升级;L4 不能。

代码 / 示例

L4 报文路径:Client -> VIP:443 -> LB -> RS:443(SSL 端到端,LB 不解密)
L7 报文路径:Client -> LB:443(TLS 终止)-> LB:8000(HTTP)-> RS:8000

常见误区

  • 误区:LVS 也能做 Nginx 那样的 location 路由;正解:LVS 只在 IPVS 层做端口级转发,看不到 HTTP 路径。
  • 误区:L7 一定比 L4 慢;正解:L7 在短连接、高 QPS 场景有连接拆解开销,但配合连接池、HTTP/2、缓存可显著降低后端压力。

追问

  • Q:四层负载均衡能否做 HTTPS 卸载? A:不能,TLS 终止需要解析应用层握手,属于 L7 能力。
  • Q:L7 为什么性能天花板低于 L4? A:需要终止连接、解析协议、维护应用层状态,单机吞吐通常在十万级 QPS 以内;L4 用内核态转发可达百万级 PPS。

08.5.1-002 LVS 的 NAT、DR、TUNNEL 三种模式有何区别?

一句话结论

NAT 模式由 LB 改写目的 IP 与源 IP,进出流量都经过 LB;DR 模式通过修改 MAC 地址让后端直接回包给客户端,LB 只处理入站;TUNNEL 模式在原报文外再封一层 IP 隧道,后端解封装后直接回包,可跨机房部署。

概念解释

  • NAT(地址转换):Director 把请求包的目的 IP 改成 RS,回包再由 Director 改回 VIP。所有进出流量都过 Director,Director 是瓶颈。
  • DR(直接路由):Director 把数据帧的目的 MAC 改成 RS,RS 把 VIP 配在 lo 上(不响应 ARP),回包直接走网关到客户端,不经过 Director。
  • TUNNEL:Director 在原 IP 报文外再封装一层 IP 头发给 RS,RS 解封装后直接回包。

原理流程

  1. NAT:Client -> VIP(Director)-> DNAT -> RS;RS 回包目的是 Director,Director 再 SNAT 回 Client。
  2. DR:Client -> VIP -> Director 改写目的 MAC -> RS;RS 发现目的 IP 是自己 lo 上的 VIP,直接处理,回包源 IP 是 VIP,经默认网关回 Client。
  3. TUNNEL:Director 在原 IP 报文外套 IP-in-IP 头,RS 收到后解封装,按内部报文处理,回包直接走公网。

代码 / 示例

NAT:    C <-> Director <-> RS(双向流量都过 Director)
DR:     C -> Director -> RS -> C(回程不经过 Director)
TUNNEL: C -> Director(IP-in-IP) -> RS -> C(RS 可在不同二层网络)

常见误区

  • 误区:DR 模式 RS 上要配 VIP 到 eth0;正解:必须配到 lo 且关闭 ARP 响应,否则 VIP 在 ARP 冲突。
  • 误区:NAT 模式性能最好;正解:NAT 进出都过 Director,是三种模式里 Director 压力最大的,吞吐受限于 Director 网卡。

追问

  • Q:DR 模式为什么要求 RS 与 Director 在同一二层网络? A:因为要靠 MAC 寻址把帧送到 RS,跨网段就不能用 MAC 直连了。
  • Q:TUNNEL 模式适合什么场景? A:RS 分布在不同机房或不同二层网络,Director 不能二层直达,用 IP 隧道跨越。

08.5.1-003 LVS 常用调度算法有哪些?分别适用什么场景?

一句话结论

LVS 调度分静态(轮询、加权轮询、源地址哈希、目标地址哈希)与动态(最小连接、加权最小连接、最短期望延迟、集合粘合等);生产最常用加权轮询(WRR)与加权最小连接(WLC)。

概念解释

  • 轮询(RR):依次分配,不区分后端性能差异。
  • 加权轮询(WRR):按权重比例分配,适合后端机器配置不同。
  • 源地址哈希(SH):同一客户端 IP 始终映射到同一后端,实现会话保持。
  • 目标地址哈希(DH):同一目标 IP 映射到同一后端,常用于缓存集群。
  • 最小连接(LC):把新连接分给当前连接数最少的后端。
  • 加权最小连接(WLC):(active*256+inactive)/weight 最小者优先,生产默认。

原理流程

  1. 连接到达 Director。
  2. 根据算法选择后端:静态算法不看实时连接数,动态算法查询当前连接表。
  3. 转发报文并记录连接哈希。
  4. 后续报文根据哈希表直接定位后端,避免重复调度。

代码 / 示例

# ipvsadm 示例
ipvsadm -A -t 10.0.0.1:80 -s wlc
ipvsadm -a -t 10.0.0.1:80 -r 10.0.0.11:80 -g -w 3
ipvsadm -a -t 10.0.0.1:80 -r 10.0.0.12:80 -g -w 1

常见误区

  • 误区:最小连接一定比轮询好;正解:长连接场景(如数据库连接)LC 更合理;短连接且后端处理时间均匀时 WRR 与 WLC 差异不大,WRR 更省 CPU。
  • 误区:源地址哈希能保证会话永不漂移;正解:后端宕机或扩容后哈希重映射,会话会漂移,需配合应用层会话保持。

追问

  • Q:什么是最短期望延迟(SED)算法? A:(active*256+1)/weight 最小者优先,跳过 idle 节点,适合长连接场景。
  • Q:集合粘合(LBLC)是什么? A:基于目标地址哈希的动态版本,先按目标地址哈希找后端,找不到再用最小连接选,常用于反向代理缓存集群。

08.5.1-004 DR 模式为什么要求 RS 与 Director 在同一二层网络?

一句话结论

DR 模式靠数据帧的目的 MAC 地址把请求送到 RS,MAC 寻址只在同一二层广播域内有效;跨网段需要路由,路由会改写源 MAC,无法实现 Director 只改 MAC 不做 IP 转发的直连机制。

概念解释

  • DR 模式 Director 不修改 IP 头,只把数据帧的目的 MAC 改成 RS 的 MAC。
  • 二层帧不能跨路由器转发,路由器 TTL 减一后帧无法在不同网段间按 MAC 传递。
  • RS 把 VIP 配在 lo 上并抑制 ARP,目的是让客户端 ARP 解析 VIP 得到 Director 的 MAC,而不是 RS 的 MAC。

原理流程

  1. 客户端发 ARP 请求 VIP 的 MAC。
  2. Director 应答 VIP 的 MAC;RS 因为 arp_ignore/arp_announce 配置不响应。
  3. 客户端把请求发给 Director 的 MAC。
  4. Director 把帧目的 MAC 改成 RS,IP 头不变,RS 在同一二层域收到帧。

代码 / 示例

# RS 上配置 VIP 到 lo 并抑制 ARP
ip addr add 10.0.0.1/32 dev lo
sysctl -w net.ipv4.conf.all.arp_ignore=1
sysctl -w net.ipv4.conf.all.arp_announce=2

常见误区

  • 误区:RS 上配 VIP 到 eth0 也能工作;正解:RS 会在 eth0 上应答 ARP,导致 VIP 在网络里冲突,Director 不再是 VIP 的唯一拥有者。
  • 误区:跨机房也能用 DR;正解:跨机房走三层路由,必须改用 TUNNEL 模式或 NAT 模式。

追问

  • Q:arp_ignore=1 与 arp_announce=2 分别做什么? A:arp_ignore=1 表示只响应目的 IP 是本地入接口的 ARP 请求;arp_announce=2 表示优先用出口 IP 作为源 IP 发送 ARP 宣告。
  • Q:RS 回包为什么不经过 Director? A:因为回包源 IP 是 VIP,目的是客户端公网 IP,RS 直接走默认网关就能回客户端,无需 Director 参与。

08.5.1-005 Nginx/HAProxy 作为 L7 相比 LVS 多做了什么?

一句话结论

L7 代理终止客户端连接并重新发起后端连接,能解析 HTTP 报文做路由、改写、鉴权、限流、缓存、协议升级、TLS 终止、访问日志与指标输出;这些都是 L4 无法在不解析 payload 的情况下完成的。

概念解释

  • TLS 终止:在代理上卸载证书,后端用明文 HTTP。
  • HTTP 路由:按 Host、URI、Header、Method 选择 upstream。
  • 改写:rewrite 路径、加/删 Header、改写响应。
  • 缓存:对静态资源做代理缓存,降低后端压力。
  • 限流:按连接数、请求速率、并发数限流。
  • 可观测:访问日志、状态码分布、upstream 响应时间。

原理流程

  1. 客户端与 L7 代理完成 TCP/TLS 握手。
  2. 代理解析 HTTP 请求,匹配 location/route 规则。
  3. 选择 upstream server,从连接池取或新建连接。
  4. 把请求转发给后端,接收响应。
  5. 按需改写响应、加 Header、缓存,再返回客户端。

代码 / 示例

server {
    listen 443 ssl http2;
    server_name api.example.com;
    ssl_certificate     /etc/ssl/api.crt;
    ssl_certificate_key /etc/ssl/api.key;

    location /api/ {
        proxy_pass http://backend;
        proxy_set_header Host $host;
        proxy_set_header X-Request-Id $request_id;
    }
    location /static/ {
        proxy_cache mycache;
        proxy_pass http://static;
    }
}

常见误区

  • 误区:L7 代理只是慢一点的 L4;正解:L7 是一个独立的应用层网关,能做 L4 完全做不到的内容路由与治理。
  • 误区:用了 LVS 前面就不能用 Nginx;正解:常见架构是 LVS(DR)+ Nginx(L7)+ 应用,LVS 做四层入口,Nginx 做七层治理。

追问

  • Q:HAProxy 与 Nginx 在 L7 上各有什么侧重? A:HAProxy 强项是四层与七层代理的性能、健康检查、会话保持、TCP 模式;Nginx 强项是 HTTP 路由、rewrite、缓存、静态资源服务与 OpenResty 扩展。
  • Q:L7 代理为什么要重新发起后端连接? A:因为它终止了客户端连接,需要独立的连接池与后端通信,这样才能做连接复用、TLS 终止、协议升级。

08.5.1-006 什么是会话保持?常见实现方式有哪些?

一句话结论

会话保持(session persistence / sticky session)让同一客户端的请求始终落到同一后端,避免应用无状态化时丢失会话;常见方式有基于 cookie、基于源 IP、基于应用层会话标识三种。

概念解释

  • 基于 cookie:L7 代理在响应里写入后端标识 cookie,后续请求带 cookie 就路由回同一后端。
  • 基于源 IP:L4 用源地址哈希(SH)把同一 IP 的连接映射到同一后端。
  • 基于应用标识:按 URL 参数、Header 或 JWT 中的用户 ID 做一致性哈希。
  • 一致性哈希:后端上下线时只影响少量哈希环上的 key。

原理流程

  1. 首次请求:代理按调度算法选后端,记录会话映射。
  2. 后续请求:代理根据 cookie/IP/Header 查找映射,命中则转发同一后端。
  3. 后端宕机:映射失效,请求重新调度并重建会话。

代码 / 示例

# Nginx 源地址哈希
upstream backend {
    ip_hash;
    server 10.0.0.11:80;
    server 10.0.0.12:80;
}
# HAProxy cookie 粘滞
backend web
    cookie SERVERID insert indirect nocache
    server s1 10.0.0.11:80 cookie s1 check
    server s2 10.0.0.12:80 cookie s2 check

常见误区

  • 误区:会话保持是高可用的必要手段;正解:会话保持只是兼容无状态化改造的过渡手段,生产应优先把会话外置到 Redis/JWT,让后端无状态。
  • 误区:ip_hash 能完美保持会话;正解:NAT 出口 IP 相同的大量用户会被映射到同一后端,造成负载不均;后端扩缩容也会导致哈希重映射。

追问

  • Q:cookie 粘滞有什么缺点? A:依赖 cookie 可用,移动端、API 调用不一定带 cookie;cookie 本身也会增加请求体积。
  • Q:一致性哈希相比普通哈希好在哪里? A:节点变化时只迁移 1/N 的 key,普通哈希会全部重映射,会话大面积失效。

08.5.1-007 负载均衡的健康检查如何工作?主动与被动有何区别?

一句话结论

健康检查分主动探测(代理定期向后端发请求)与被动检查(基于实时请求失败率判定);主动检查能提前剔除故障节点,被动检查对无探测流量的服务更友好,生产通常两者结合。

概念解释

  • 主动健康检查:代理按固定间隔向后端发 TCP 连接、HTTP GET、HTTPS GET,根据响应状态码与延迟判定 UP/DOWN。
  • 被动健康检查:在正常转发过程中统计后端的失败率与超时率,超过阈值自动摘除,连续成功后自动恢复。
  • 检查间隔、失败阈值、成功恢复阈值、请求超时都是可调参数。

原理流程

  1. 主动:代理每 N 秒对每个后端发探测请求。
  2. 连续 M 次失败 -> 后端标记 DOWN,不再被调度。
  3. 被动:统计最近窗口内后端返回 5xx/超时比例,超阈值临时摘除。
  4. 连续 K 次成功 -> 后端恢复 UP。

代码 / 示例

upstream backend {
    server 10.0.0.11:80 max_fails=3 fail_timeout=10s;
    server 10.0.0.12:80 max_fails=3 fail_timeout=10s;
}
backend web
    option httpchk GET /healthz
    http-check expect status 200
    default-server inter 2s fall 3 rise 2

常见误区

  • 误区:健康检查只查 TCP 端口是否通;正解:TCP 通不代表应用健康,应用可能已 hang、数据库连接池满,必须用 HTTP 健康接口检查业务可达性。
  • 误区:被动检查会漏报;正解:被动检查只在有真实流量时才生效,低频服务应配合主动检查。

追问

  • Q:max_fails 与 fail_timeout 的含义? A:fail_timeout 时间内累计 max_fails 次失败,后端在 fail_timeout 时间内被认为不可用。
  • Q:慢启动是什么? A:后端刚恢复时不立即接收全量流量,而是按权重逐步增大流量,避免恢复瞬间被打挂。

08.5.1-008 为什么七层反向代理需要连接池与连接复用?

一句话结论

L7 代理要为每个客户端请求与后端建连,短连接场景下 TCP 三次握手与 TLS 握手成本极高;通过 upstream 连接池把空闲后端连接复用给多个客户端请求,可大幅降低后端连接数与延迟。

概念解释

  • 连接池:代理为每个 upstream 后端维护一组空闲连接,请求到来时复用。
  • keepalive:Nginx upstream 的 keepalive 指令、HTTP/2 多路复用。
  • 连接复用:同一个后端 TCP 连接连续服务多个客户端请求,省去握手开销。
  • 后端最大连接数:每个 upstream server 配置 max_conns 防止把后端压垮。

原理流程

  1. 客户端请求到达代理。
  2. 代理从连接池取一个空闲后端连接。
  3. 若池空则新建连接。
  4. 请求转发、响应返回。
  5. 连接归还连接池,等待复用,而不是关闭。

代码 / 示例

upstream backend {
    server 10.0.0.11:80 max_conns=100;
    server 10.0.0.12:80 max_conns=100;
    keepalive 32;
    keepalive_timeout 60s;
    keepalive_requests 1000;
}
server {
    location / {
        proxy_http_version 1.1;
        proxy_set_header Connection "";
        proxy_pass http://backend;
    }
}

常见误区

  • 误区:开了 keepalive 就自动复用;正解:Nginx 还需要设置 proxy_http_version 1.1 并清空 Connection 头,否则后端会按 HTTP/1.0 关闭连接。
  • 误区:连接池越大越好;正解:连接池过大反而会让后端 ESTABLISHED 连接数暴涨,应按后端承受能力设 max_conns。

追问

  • Q:HTTP/2 多路复用与连接池是什么关系? A:HTTP/2 在单个 TCP 连接上复用多个流,本身就是一种连接复用;连接池是 L7 代理到后端的 TCP 连接复用。
  • Q:连接池里的空闲连接会不会失效? A:会,后端或中间网络设备可能在空闲一段时间后关闭连接,代理需要 keepalive_timeout 与重试机制处理。

08.5.1-009 LVS 为什么不支持 HTTP 层面的路由与改写?

一句话结论

LVS 工作在内核态 IPVS 模块,只做 IP 报文转发,不打开 socket、不解析 payload,因此无法看到 HTTP 方法、URL、Header;任何应用层路由与改写都需要用户态代理(Nginx/HAProxy/Envoy)来完成。

概念解释

  • IPVS:Netfilter 的一个模块,在 IP 层做连接跟踪与转发,处理的是报文。
  • 不打开 socket:意味着不经过 TCP 状态机,不重组流,不解析应用层协议。
  • 优点:转发快、延迟低、CPU 占用小。
  • 缺点:功能受限,只能按 IP/端口调度。

原理流程

  1. 报文进入 IPVS 钩子。
  2. 查 IPVS 连接哈希表,匹配调度规则。
  3. 按 NAT/DR/TUNNEL 模式改写报文并转发。
  4. 不读取 payload,直接放行。

代码 / 示例

LVS 看到的是 IP 报文:
  src=1.2.3.4:5555  dst=10.0.0.1:80  proto=TCP
  payload 是 HTTP 字节流,但 LVS 不解码

常见误区

  • 误区:LVS 可以做 host 路由;正解:host 路由需要解析 HTTP Host 头,LVS 做不到。
  • 误区:LVS 性能高就一定能替代 Nginx;正解:LVS 适合做入口四层负载均衡,Nginx 做七层治理,两者互补。

追问

  • Q:DPVS 是什么? A:基于 DPDK 的 LVS 数据面实现,绕过内核协议栈,用用户态轮询驱动,单机 PPS 可达千万级,是云厂商高性能四层负载均衡的常见方案。
  • Q:为什么云厂商 SLB 既有四层又有七层? A:四层 SLB(CLB)转发快、成本低;七层 SLB(ALB)支持 HTTP 路由与治理,按场景选用。

08.5.1-010 四层与七层在高可用架构中如何配合?

一句话结论

典型架构是「LVS(DR)+ Nginx/HAProxy(L7)+ 应用」三层:LVS 做入口四层负载均衡与 VIP 高可用,Nginx 做七层路由、TLS 终止与治理,应用层无状态横向扩展。

概念解释

  • 入口层:LVS 双机 keepalived 漂移 VIP,避免单点。
  • 七层代理层:Nginx/HAProxy 多实例横向扩展,无状态。
  • 应用层:无状态服务,水平扩容。
  • 数据层:数据库、缓存独立部署,不在负载均衡链路上。

原理流程

  1. 客户端访问 VIP。
  2. keepalived 主节点 LVS 接管 VIP。
  3. LVS 按 DR 模式把请求转发到某台 Nginx。
  4. Nginx 解析 HTTP,路由到后端应用。
  5. 应用无状态,任意一台都能处理请求。

代码 / 示例

Client
  |
  VIP (keepalived 漂移)
  |
LVS-Master / LVS-Backup (DR)
  |
Nginx-1  Nginx-2  Nginx-3  (L7 代理池)
  |
App-1    App-2    App-3    App-4   (无状态应用)

常见误区

  • 误区:只部署一台 Nginx 就够了;正解:Nginx 本身是单点,前面必须有 LVS/keepalived 或云 SLB 做高可用。
  • 误区:LVS 后面直接挂应用就能做 HTTP 路由;正解:LVS 后面挂的还是七层代理,应用不直接面向 LVS。

追问

  • Q:keepalived 怎么实现 VIP 漂移? A:主节点周期性发 VRRP 广播宣告自己,备节点收不到就接管 VIP,主节点恢复后再抢回。
  • Q:云上还需要自建 LVS 吗? A:云上通常用云厂商 SLB 替代 LVS,SLB 已经是四层高可用入口;自建 IDC 才需要 LVS + keepalived。

待整理清单

  • [ ] DPVS 与 DPDK 数据面转发细节
  • [ ] LVS 与 kube-proxy iptables/IPVS 模式的关联
  • [ ] 长连接(WebSocket)场景下的负载均衡策略
  • [ ] QUIC 与 HTTP/3 接入的负载均衡