罗罗编程学习记录
本页内容 展开查看

09.1.1.1 网络并发演进:从 C10K 到 C10M

所属:全栈开发面试题库 / 09 高阶架构:高并发与分布式 / 09.1 高并发基础 / 09.1.1 并发模型与线程模型

09.1.1.1-001 什么是 C10K 问题?

一句话结论

C10K 指单机同时处理一万(10K)并发连接遇到的瓶颈:传统“一连接一线程/进程”模型在万级连接下线程调度、内存拷贝与上下文切换成本失控。

概念解释

  • C10K 是 Dan Kegel 在 1999 年提出的问题:Web 服务器能否在一台机器上同时服务 10000 个连接。
  • “并发连接数”不等于“并发请求数”:长连接保持阶段多数连接处于空闲。
  • 瓶颈从网络带宽转向内核调度、内存与 CPU 开销。

原理流程

连接数上升
  → 每连接一个线程/进程
    → 栈内存、描述符、调度队列膨胀
      → 上下文切换占满 CPU
        → 响应延迟劣化

常见误区

  • 误区:C10K 指每秒一万请求。实际指同时保有一万条连接,请求速率可以远低于连接数。
  • 误区:加机器就能解决 C10K。单机模型不改造,加机器只是线性摊薄,单机上限仍然卡住。

追问

  • 问:为什么万级空闲连接也会拖垮系统?答:每个连接占用线程栈、文件描述符、内核 socket 缓冲,且线程数越多调度器遍历与切换成本越高。
  • 问:C10K 问题的代表性解法是什么?答:IO 多路复用(select/poll/epoll)配合非阻塞 IO,用少量线程管理大量连接。

09.1.1.1-002 从 C10K 到 C10M 的核心演进是什么?

一句话结论

C10M 指单机百万并发连接,演进方向是:减少上下文切换、减少内存拷贝、绕过内核协议栈(用户态驱动)、降低每连接内存占用。

概念解释

  • C10K 阶段解决“大量连接可管理”;C10M 阶段解决“每连接成本趋近于零、拷贝与切换趋近于零”。
  • 关键技术:epoll/事件驱动、零拷贝、CPU 亲和绑定、大页内存、用户态网络栈(如 DPDK 思路)。
  • 每连接状态尽量放在用户态、紧凑结构中,避免内核态反复分配释放。

原理流程

C10K:多路复用 + 非阻塞 IO,连接可管理
  → C100K:事件循环、池化、零拷贝、连接复用
    → C10M:用户态协议栈/轮询驱动、每连接极小内存、绑核

常见误区

  • 误区:C10M 只靠升级硬件。硬件放大有限,真正的杠杆是消除内核路径上的拷贝、切换与锁竞争。
  • 误区:所有业务都要奔着 C10M 设计。绝大多数业务瓶颈在下游数据库与业务逻辑,网络连接数不是首要矛盾。

追问

  • 问:C10M 阶段最常见的剩余瓶颈是什么?答:上下文切换、内存带宽与缓存失效、跨核锁竞争,以及每连接内存占用。
  • 问:用户态网络栈的代价是什么?答:绕过内核后要自行处理协议栈、收发包、中断与可靠性,开发与运维复杂度显著上升。

09.1.1.1-003 一台服务器支撑大量连接,瓶颈通常在哪几层?

一句话结论

常见瓶颈依次为:文件描述符上限、线程/进程数与栈内存、内核 socket 缓冲、CPU 调度与上下文切换、网络带宽与包速率、下游数据库。

概念解释

  • 系统层:ulimit -n 描述符上限、进程最大线程数、内存限制。
  • 内核层:连接表、TIME_WAIT 堆积、协议栈缓冲与软中断。
  • 应用层:事件循环阻塞、锁竞争、每连接对象分配。

原理流程

先查资源上限(fd/线程/内存)
  → 再查内核连接与缓冲状态
    → 再看应用 CPU 使用率与调度
      → 最后定位下游依赖(DB/缓存/HTTP)

常见误区

  • 误区:连接数上不去一定是代码问题。可能只是系统 ulimit 或内核参数没调。
  • 误区:CPU 高就等于算得多。可能是大量上下文切换或锁自旋在消耗 CPU。

追问

  • 问:如何判断瓶颈在网络层还是应用层?答:看 CPU 是耗在软中断(网络收包)还是用户态;看连接是否卡在应用队列。
  • 问:每连接内存占用如何估算?答:应用每连接状态对象 + 读/写缓冲 + 内核 socket 缓冲,三者相加再乘以连接数。

09.1.1.1-004 阻塞 IO + 一连接一线程为什么撑不住 C10K?

一句话结论

阻塞模型下线程在等待 IO 时挂起,但每个线程仍占用栈内存与调度元数据;连接数逼近线程数时,调度切换与内存占用成为主成本,线程无法再增加。

概念解释

  • 阻塞 read:线程调用后进入等待,不占用 CPU 运行,但占用线程实体。
  • 32 位 JVM 默认线程栈约 512KB~1MB,线程数受限于内存;操作系统线程本身也有内核元数据成本。
  • 空闲连接不产生计算,却仍占一个线程。

原理流程

新连接到达 → 新建线程 → 线程阻塞在 read
  → 万级连接 = 万级线程
    → 栈内存吃光、调度队列变长
      → 切换频率飙升,响应变慢

常见误区

  • 误区:阻塞线程不占 CPU 就没有成本。它占内存、占描述符元数据,并参与调度器排队。
  • 误区:把线程栈调小就能无限加线程。内核线程与调度开销仍然存在,栈只是其中一项。

追问

  • 问:一连接一线程模型的好处是什么?答:编程简单,同步代码直接写,阻塞语义直观。
  • 问:它适合什么规模?答:连接数有限、连接生命周期长且并发低的内部服务;不适合互联网海量长连接接入。

09.1.1.1-005 进程模型(prefork)为什么逐渐被线程/事件模型替代?

一句话结论

进程地址空间独立、隔离性好,但进程创建与切换成本高、内存按进程翻倍;海量连接下进程数不可接受,因此被轻量线程或用户态事件循环取代。

概念解释

  • prefork:主进程 fork 多个子进程,每进程处理一批连接(如早期 Apache MPM prefork)。
  • 进程切换要刷新地址空间、页表与 TLB,成本显著高于线程。
  • 共享数据需要 IPC,内存无法共享复用。

原理流程

进程隔离:故障不蔓延
  代价:创建慢、切换贵、内存重复
    → 连接数上升后进程数膨胀
      → 被线程模型或事件驱动模型替代

常见误区

  • 误区:进程模型完全被淘汰。隔离性要求极高的场景仍会用多进程(如多租户、不可信插件),只是不再按连接开进程。
  • 误区:线程模型没有隔离代价。线程共享地址空间,一个崩溃可能拖垮整个进程。

追问

  • 问:现在还有哪些多进程高并发方案?答:Nginx master/worker 多进程 + 每 worker 事件循环;进程数按 CPU 核数,而非按连接数。
  • 问:多进程 + 事件循环的分工是什么?答:进程负责隔离与绑核,事件循环负责在单进程内管理海量连接。

09.1.1.1-006 IO 多路复用解决了什么问题?

一句话结论

多路复用用一次系统调用同时监听大量 fd 的可读/可写状态,把“等哪个连接就绪”的工作交给内核,应用线程只处理已就绪的连接,从而用少量线程管理海量连接。

概念解释

  • 应用把关心的 fd 集合交给内核,阻塞等待任一 fd 就绪。
  • 返回后遍历就绪集合逐个处理,未就绪连接不占线程。
  • 代表实现:select、poll、epoll(Linux)、kqueue(BSD/macOS)。

原理流程

应用注册关注的 fd
  → 多路调用阻塞等待
    → 某连接就绪,返回就绪集合
      → 应用逐个非阻塞处理
        → 重新注册等待

常见误区

  • 误区:多路复用让 IO 变快。它只是减少了等待与线程占用,单次 IO 速度本身不变。
  • 误区:就绪 fd 一定能完整读写。非阻塞下一次可能只读一部分,需要继续关注事件。

追问

  • 问:多路复用为什么配合非阻塞 IO?答:就绪后若读一半又阻塞,事件循环会被拖住;非阻塞保证处理立即返回。
  • 问:多路复用监听的 fd 类型只能是 socket 吗?答:也可以是管道、文件、定时器等可轮询对象。

09.1.1.1-007 select、poll、epoll 有什么区别?

一句话结论

select 用固定大小位图且每次拷贝全量集合;poll 用数组但仍线性遍历;epoll 在内核维护事件表,通过回调通知就绪 fd,避免每次全量遍历与拷贝。

概念解释

实现 集合管理 返回方式 规模问题
select 位图,FD_SETSIZE 限制(常见 1024) 全量拷贝、遍历 fd 数与检查成本都受限
poll 链表数组,无位图大小限制 仍每次拷贝、线性遍历 fd 多时 O(n) 扫描
epoll 内核红黑树 + 就绪链表 回调加入就绪链表,只返回就绪项 O(就绪数),适合海量 fd

原理流程

select/poll:每次调用把全部关注 fd 传给内核,返回后线性扫描
epoll:epoll_ctl 注册,epoll_wait 只取就绪链表

常见误区

  • 误区:epoll 一定比 poll 快。fd 很少时差异不明显;优势体现在海量连接、稀疏就绪的场景。
  • 误区:epoll 是跨平台接口。它是 Linux 特有;macOS/BSD 对应 kqueue,Windows 对应 IOCP。

追问

  • 问:epoll 为什么用红黑树管理关注集合?答:支持高效增删改与查找,就绪事件通过回调挂到双向链表。
  • 问:epoll_wait 返回的就绪集合会重复吗?答:同一 fd 在一次返回中通常只出现一次;边缘触发下需一次性处理到 EAGAIN。

09.1.1.1-008 epoll 的水平触发(LT)与边缘触发(ET)有什么区别?

一句话结论

LT 只要 fd 还有数据可读就一直通知;ET 只在状态变化(新数据到达)时通知一次,应用必须一次性读到 EAGAIN,否则剩余数据要等下一次事件。

概念解释

  • LT(Level Triggered):默认模式,读不完下次 epoll_wait 仍会返回。
  • ET(Edge Triggered):状态边沿触发,减少事件通知次数,但要求非阻塞 + 循环读到无数据。

原理流程

LT:缓冲区有数据 → 每次 wait 都通知
ET:数据新到达 → 通知一次;未读完不再通知,直到下一批数据

常见误区

  • 误区:ET 一定更快。ET 减少通知次数,但处理不当会丢数据或增加循环读;一般只有追求极致事件数时才用。
  • 误区:ET 下读一次就行。必须循环读到返回 EAGAIN/EWOULDBLOCK。

追问

  • 问:ET 为什么必须配非阻塞 fd?答:阻塞读到没数据就会挂住事件循环;非阻塞才能循环读直到 EAGAIN。
  • 问:Netty 默认用哪种触发?答:Linux 上采用 ET 配合非阻塞循环读,是典型 ET 用法。

09.1.1.1-009 非阻塞 IO 配合事件循环是怎么跑起来的?

一句话结论

所有 fd 设为非阻塞,事件循环在多路复用调用上等待,就绪后执行对应 Handler,Handler 内读写立即返回(可能不完整),未完成的部分等下一轮事件。

概念解释

  • 非阻塞:系统调用未就绪时立即返回 EAGAIN,而不是挂起线程。
  • 事件循环:单线程内反复“取就绪事件 → 分发 → 执行 Handler”。
  • Handler 不能做阻塞操作,否则整个循环停滞。

原理流程

loop:
  events = epoll_wait(关注集合)
  for event in events:
      handler(event)   # 非阻塞处理,可注册下次关注

常见误区

  • 误区:事件循环天然高并发。循环内一旦出现同步阻塞(慢 DB、锁等待、大计算),所有连接一起卡住。
  • 误区:非阻塞就不需要重试。读/写不完整时要保留缓冲,等可写/可读事件继续。

追问

  • 问:写不完整时事件怎么注册?答:缓冲未排空时关注 fd 可写事件,可写后继续写,排空后取消关注。
  • 问:一个事件循环线程通常绑多少连接?答:没有固定值,取决于 Handler 处理时长;关键是循环内不出现阻塞。

09.1.1.1-010 网卡、软中断与内核协议栈在高并发中扮演什么角色?

一句话结论

网卡收包后通过中断(或轮询)交给内核协议栈解析,软中断在 CPU 上执行收发包;高包速率下软中断 CPU 占比、网卡多队列与中断亲和性直接影响吞吐。

概念解释

  • 硬中断:网卡通知 CPU 有新包;过多中断会打断执行流。
  • 软中断:下半部处理协议栈解析、socket 队列入队。
  • 多队列网卡:不同队列绑不同 CPU,避免单点收包压力。

原理流程

网卡收包 → 硬中断 → 软中断解析协议栈
  → 放入对应 socket 接收队列
    → 应用通过 epoll 被唤醒读取

常见误区

  • 误区:网络流量只占带宽。小包场景瓶颈在包速率(pps)与中断处理,带宽可能远未打满。
  • 误区:软中断高是应用 bug。可能是网卡队列不均、中断未绑核导致收包集中在一个核。

追问

  • 问:如何看软中断压力?答:top 看 si 占比,/proc/softirq 看 NET_RX/NET_TX 计数增长。
  • 问:RPS/RFS 是什么?答:软件模拟多队列,把收包转发到其他 CPU 处理,缓解单队列收包瓶颈。

09.1.1.1-011 零拷贝解决什么问题?常见手段有哪些?

一句话结论

零拷贝减少数据在内核态与用户态之间的重复拷贝与上下文切换,典型用于静态文件发送、消息收发;代表手段有 sendfile、mmap、splice 以及用户态直接缓冲区。

概念解释

  • 普通路径:磁盘 → 内核缓冲 → 用户态缓冲 → 内核 socket 缓冲 → 网卡,多次拷贝。
  • sendfile:数据在内核态直接从文件描述符流向 socket,不经过用户态。
  • mmap:把内核缓冲映射到用户态地址空间,省去一次拷贝但仍有 CPU 参与。

原理流程

普通 read/write:磁盘 → 内核 → 用户 → 内核 → 网卡(4 次拷贝 + 2 次切换)
sendfile:磁盘 → 内核 → 网卡(减少用户态往返)

常见误区

  • 误区:零拷贝完全不拷贝。它减少的是用户态与内核态之间的拷贝,磁盘到内核、网卡发送仍有必要拷贝。
  • 误区:零拷贝适用于所有场景。需要在用户态加工、修改数据时,仍必须把数据读到用户态。

追问

  • 问:Kafka 为什么用 sendfile 传日志段?答:日志段只转发不修改,sendfile 省去用户态拷贝,提升顺序发送吞吐。
  • 问:mmap 相比 sendfile 的适用场景?答:需要用户态直接读写映射区域(如共享内存、索引文件)时用 mmap。

09.1.1.1-012 文件描述符为什么会成为瓶颈?如何排查与调整?

一句话结论

每个连接、文件、管道都占用一个 fd;fd 有进程上限与系统级上限,耗尽后新连接 accept 或打开文件直接失败。

概念解释

  • 进程级:ulimit -n(nofile);系统级:fs.file-max 与 fs.nr_open。
  • fd 泄漏(打开未关闭)会让可用 fd 逐渐耗尽。
  • 高并发服务器需要把上限调到目标连接数 + 预留文件/管道余量。

原理流程

连接/文件占用 fd
  → 达到进程 nofile 上限
    → accept/open 报 EMFILE
      → 系统级上限再兜底

常见误区

  • 误区:只调大系统上限就够。进程级 nofile 没放开,仍会先撞到进程上限。
  • 误区:fd 越多性能越好。fd 本身廉价,真正成本是每 fd 对应的连接缓冲与状态对象。

追问

  • 问:如何确认是 fd 耗尽?答:日志出现 Too many open files;lsof 或 /proc/<pid>/fd 计数逼近上限。
  • 问:fd 泄漏如何定位?答:对比不同时间点 fd 类型分布,找出只增不减的连接/文件句柄。

09.1.1.1-013 TIME_WAIT、连接表与端口耗尽对并发连接数有什么影响?

一句话结论

主动关闭方进入 TIME_WAIT 占据四元组 2MSL 时长;短连接大量关闭会堆积 TIME_WAIT、占用端口与内存,影响新建连接能力。

概念解释

  • TIME_WAIT:等待最后一个 ACK 到达、让旧报文过期,默认约 60s(2MSL)。
  • 端口耗尽:客户端主动外连时本地端口有限,短连接风暴可能占满临时端口。
  • 服务端长连接一般不堆 TIME_WAIT;短连接服务才容易出现。

原理流程

短连接频繁建立关闭
  → 主动关闭方进入 TIME_WAIT
    → 四元组/本地端口被占用 2MSL
      → 新建连接失败或延迟

常见误区

  • 误区:TIME_WAIT 越多越健康。大量 TIME_WAIT 说明短连接过多,应改长连接复用。
  • 误区:直接关 TIMEWAIT 回收参数就能根治。根因是连接未复用,参数只是缓解。

追问

  • 问:服务端如何减少 TIME_WAIT?答:尽量用长连接与 keep-alive,连接复用而非每请求新建。
  • 问:外连客户端端口耗尽怎么缓解?答:复用连接、调大本地端口范围、合理设置连接复用。

09.1.1.1-014 连接复用(长连接 / keep-alive)对并发容量有什么作用?

一句话结论

长连接把“每请求一条短连接”变成“多请求共享一条连接”,显著减少连接建立/关闭开销、TIME_WAIT 与握手成本,从而提升单机可承载的请求吞吐。

概念解释

  • HTTP keep-alive:TCP 连接在多个请求间复用。
  • 连接池:应用层复用到下游的连接,避免每次请求三次握手。
  • 复用降低的是连接 churn(建连/断连速率),不是单连接内的处理能力。

原理流程

短连接:每请求握手 + 关闭,堆 TIME_WAIT
长连接/N 池化:连接复用,握手摊薄到长期连接上

常见误区

  • 误区:长连接越多越好。空闲长连接仍占 fd 与缓冲;需要空闲超时与心跳回收。
  • 误区:连接复用能替代下游连接池容量规划。复用减少建连,但每条连接上的请求并发仍受下游限制。

追问

  • 问:长连接空闲多久关闭合理?答:按业务与网关/中间件超时配置对齐,通常设空闲超时并配合心跳探测。
  • 问:连接池如何避免拿到已被对端关闭的连接?答:借出前校验、空闲探测、失败重连,必要时开启 keep-alive 探测。

09.1.1.1-015 连接数量与请求并发量是一回事吗?

一句话结论

不是:并发连接数是保持的 socket 数量(含空闲);请求并发量是正在处理中的请求数,由事件循环/线程池与下游能力决定。两者通过连接上的请求速率与生命周期关联。

概念解释

  • 一条长连接可以串行承载多个请求,也可以多路复用并发多个请求(HTTP/2)。
  • 连接数大但请求少(长连接推送场景),CPU 压力小;连接少但每连接请求密集,CPU 压力大。
  • 容量评估时要分别估算连接数峰值与请求并发峰值。

原理流程

连接数 = 在线 socket 数
请求并发 = 正在服务的请求数
关系:请求速率 × 单请求耗时 ≈ 在途请求数(Little 定律)

常见误区

  • 误区:能撑十万连接就等于能撑十万 QPS。连接数是接入能力,吞吐取决于处理链路。
  • 误区:连接数降下来吞吐就一定降。连接复用可以用少量连接扛高请求速率。

追问

  • 问:HTTP/2 多路复用改变了什么?答:一条连接上并发多个流,连接数与请求并发进一步解耦。
  • 问:接入层与业务层容量分别看什么?答:接入层看连接数与包速率;业务层看在途请求、CPU 与下游依赖。

09.1.1.1-016 C10M 阶段的主要障碍是什么?

一句话结论

主要障碍是:上下文切换频次、内存拷贝与缓存失效、跨核共享数据的锁竞争、每连接内存占用,以及内核协议栈的通用路径开销。

概念解释

  • 百万连接下即使每连接只占少量内存,总量也达到 GB 级。
  • 每包一次系统调用与拷贝,累积 CPU 成本巨大。
  • 多线程共享队列导致锁排队,单核效率被摊薄。

原理流程

海量连接 → 每连接对象/缓冲不可省
  每包 → 系统调用 + 拷贝 + 唤醒
    多核 → 共享状态加锁
      → 缓存行 bouncing 放大成本

常见误区

  • 误区:C10M 靠把线程数开到百万。线程模型在该规模下切换成本直接失控。
  • 误区:绕过内核就没有代价。用户态栈自己维护协议栈状态,正确性与故障排查成本上升。

追问

  • 问:绑核(CPU affinity)在 C10M 里解决什么?答:减少线程跨核迁移与缓存失效,让连接/队列固定在核上处理。
  • 问:每连接状态如何压到极小?答:紧凑结构体、对象池复用、避免每连接分配大缓冲、状态按需惰性创建。

09.1.1.1-017 用户态网络栈 / DPDK 的思路与代价是什么?

一句话结论

思路是网卡报文通过轮询直接送到用户态进程,绕过内核协议栈中断与拷贝,从而拿到极高包速率;代价是自行实现协议、内存与可靠性管理,通用性差。

概念解释

  • DPDK:轮询模式驱动(PMD),用户态轮询网卡队列,无中断、无内核拷贝。
  • 适用于网关、防火墙、消息代理等极致包速率场景。
  • 普通业务服务通常不需要,内核协议栈 + epoll 已足够。

原理流程

传统:网卡 → 中断 → 内核协议栈 → socket 队列 → 应用
DPDK:网卡队列 → 用户态轮询直接取包 → 应用处理

常见误区

  • 误区:DPDK 适合所有高并发服务。它牺牲了内核提供的连接管理、可靠性与生态,只在特定网关类场景划算。
  • 误区:启用 DPDK 后不占 CPU。轮询模式通常占用固定核,空闲也在轮询,需要按核规划。

追问

  • 问:用户态栈如何处理 TCP 可靠性?答:自行维护连接状态、重传、拥塞控制与定时器,复杂度高。
  • 问:什么场景保留内核栈更合适?答:需要标准 socket 语义、生态库支持、业务逻辑复杂的 Web 应用。

09.1.1.1-018 高并发服务器的内存布局与每连接状态怎么省?

一句话结论

用紧凑对象、对象池复用、分批分配与惰性初始化控制每连接内存;把会话状态外置到缓存/数据库,连接内只保留必要上下文,避免大对象随连接常驻。

概念解释

  • 对象池:连接归还时重置状态复用对象,避免频繁 GC/分配。
  • 缓冲按需要扩容,不用每连接预分配大读写缓冲。
  • 热状态放本地,冷状态外置,连接重建时可恢复。

原理流程

每连接 = 必要上下文 + 复用缓冲 + 池化对象
  冷状态外置 → 连接释放归还池

常见误区

  • 误区:把所有会话数据都挂在连接对象上。连接对象应轻量,数据放缓存并按 key 存取。
  • 误区:池化对象不需要清理。归还前必须重置字段,否则下一个连接读到脏状态。

追问

  • 问:对象池在高并发下有什么风险?答:池本身有锁竞争;可按核/按线程分片降低竞争。
  • 问:每连接内存如何做容量估算?答:压测中取单连接平均内存,乘以目标连接数,再预留堆外与内核缓冲余量。

09.1.1.1-019 如何判断一台机器当前能承载多少长连接?

一句话结论

以压测实测为准:从系统上限(fd/内存/端口)与应用每连接内存估算上界,再用阶梯加压观察连接数、内存、CPU 与延迟拐点,不能用经验数字直接断言。

概念解释

  • 先算理论上界:fd 上限、可用内存 / 单连接内存。
  • 再实测:逐步建连,观察内存增长、软中断、事件循环延迟。
  • 拐点指标:内存逼近限制、CPU 软中断/用户态升高、建连成功率下降。

原理流程

理论上界 = min(fd 上限, 可用内存 / 单连接内存)
  → 阶梯建连压测
    → 记录内存/CPU/延迟曲线
      → 取安全水位下的连接数作为容量结论

常见误区

  • 误区:连接数容量只看 fd 上限。内存与每连接对象通常先撞墙。
  • 误区:实验室测出的连接数直接当生产容量。需留余量,并考虑连接上的实际请求负载。

追问

  • 问:压测长连接要模拟真实心跳与流量吗?答:尽量模拟空闲比例与心跳频率,纯空连接测出的容量偏乐观。
  • 问:哪些数字属于必须实测、不能编造?答:单连接内存、拐点连接数、CPU 占比,必须来自本机压测;经验值只能做初估。

09.1.1.1-020 网络并发演进这条线对应用选型有什么指导?

一句话结论

先判断瓶颈是连接数还是请求吞吐:连接海量选事件驱动 + 多路复用;请求处理重则用少量线程/协程池化;只有极致包速率才考虑用户态栈,不为不存在的规模过度设计。

概念解释

  • 接入层:连接海量、每连接逻辑轻 → Reactor/事件循环。
  • 业务层:调用下游、逻辑重 → 线程池或协程池隔离。
  • 网关类极致包速率:才评估 DPDK/用户态栈。

原理流程

瓶颈判断:连接数为主?还是吞吐/下游为主?
  → 接入模型选型(事件循环 / 池化)
    → 必要时再评估内核旁路技术

常见误区

  • 误区:框架用了事件循环就万事大吉。阻塞的下游调用仍要拆到池化线程,否则循环停滞。
  • 误区:为未来可能的百万连接现在就上用户态栈。过早复杂化,维护成本远超收益。

追问

  • 问:同一个服务里能混用事件循环和线程池吗?答:常见做法是接入事件循环收发包,业务处理转线程池/协程池隔离执行。
  • 问:演进中最该保留的可观测能力是什么?答:连接数、在途请求、每连接内存、软中断与事件循环延迟,便于定位是哪一层先到瓶颈。