14.10 从单机程序到高性能服务演进
所属:全栈开发面试题库 / 学习路径 / 14 C++ 与系统开发
下表按真实演进顺序写出每一步的瓶颈指标、改造手段、验证方式和这一步新引入的问题。读者可在自己的项目里对照复现:先压测拿到基线数据,再决定是否进入下一步。
| 演进步骤 | 当时瓶颈指标 | 改造手段 | 改造后验证方式 | 引入的新问题 |
|---|---|---|---|---|
| 单机命令行程序 | 无并发,单连接阻塞处理,QPS 停在单连接水平 | 用 socket API 写 TCP echo,一次处理一个连接 | nc 测试 echo 正确,QPS = 并发连接数 | 一个慢连接阻塞所有连接,无并发能力 |
| 多线程阻塞 IO | 单连接阻塞导致吞吐上不去,连接数上百后线程切换开销大 | 每连接一线程,用 std::thread + 阻塞 recv |
压测 100 连接,QPS 线性增长 | 线程数随连接数增长,C10K 问题;线程栈内存大;上下文切换开销 |
| 线程池 + 阻塞 IO | 频繁创建/销毁线程开销大,线程数无上限 | 固定线程池 + 任务队列,IO 线程 accept 后丢任务给池 | 压测对比每连接一线程,吞吐稳定、延迟下降 | 线程池大小难调;阻塞 IO 在池线程里仍占着线程 |
| IO 多路复用(epoll) | 阻塞 IO 下线程数 = 连接数,10000 连接不可行 | 用 epoll 单线程处理多连接,非阻塞 recv | 压测 1000 连接单线程跑通,CPU 占用低 | 单线程 CPU 瓶颈;业务逻辑阻塞会卡住整个事件循环 |
| Reactor 多线程模型 | 单 Reactor 单线程 CPU 跑满,业务逻辑阻塞 IO 线程 | 主 Reactor accept,子 Reactor 处理 IO,业务丢线程池 | 压测 5000 连接,CPU 多核跑满,延迟不涨 | 线程间消息传递复杂;连接在 Reactor 间分配不均 |
| 异步 IO(协程) | 业务逻辑里混着 IO 与计算,线程在 IO 等待时空转 | C++20 协程或 asio coroutine,co_await 不阻塞线程 | 压测对比同步模型,线程数减少但吞吐上升 | 协程调试复杂;状态机内存开销;生态仍在演进 |
| RPC 与服务化 | 多服务间通信靠自定义协议,编解码重复造轮子 | 引入 Protobuf + gRPC/brpc,统一编解码、路由、超时 | 跨服务调用延迟可测,链路追踪可见 | 服务间依赖增多;序列化开销;版本兼容问题 |
| 存储引擎与缓存 | 数据存内存或简单文件,重启丢失,查询慢 | 引入 RocksDB(LSM-tree)+ 本地缓存(LRU) | 数据持久化,读延迟 P99 低于 1ms | compaction 后台 IO;缓存一致性;内存占用 |
| 限流熔断与降级 | 下游故障导致线程被占满,级联崩溃 | 入口限流、下游熔断、超时控制、快速失败 | 故障注入下快速失败而非拖垮 | 降级逻辑影响业务可用性;规则需按业务校准 |
| 可观测性与压测 | 出问题不知道慢在哪,容量没基线 | 接入 perf 指标、结构化日志、链路追踪;压测建立基线 | 压测报告给出 QPS、P99、错误率、资源占用 | 指标采集本身有开销;告警规则需要持续调优 |