09.1.2.4 单机容量估算与水平扩展边界
所属:全栈开发面试题库 / 09 高阶架构:高并发与分布式 / 09.1 高并发基础 / 09.1.2 容量评估与性能指标
09.1.2.4-001 单机容量由哪几类资源决定?
一句话结论
单机容量由计算(CPU)、内存、网络、磁盘 IO、下游依赖与连接/线程上限共同决定;取所有约束中的最小值作为有效容量,先识别最先饱和的那一类。
概念解释
- CPU:计算与序列化、加密开销。
- 内存:堆、每请求对象、缓存、连接缓冲。
- 网络:带宽、包速率、连接数。
- 下游:DB/缓存/外部接口的连接与响应。
原理流程
单机有效容量 = min(CPU 能力, 内存容量, 网络能力, 下游能力, fd/连接上限)
常见误区
- 误区:CPU 核数决定单机容量。内存与下游连接常常先成为约束。
- 误区:磁盘只影响日志。慢磁盘 IO 会拖垮日志、持久化与页缓存,间接影响整体 RT。
追问
- 问:如何系统枚举资源约束?答:按 USE 方法(利用率、饱和度、错误率)逐类检查 CPU、内存、网络、IO、下游。
- 问:哪类资源最容易被忽略?答:文件描述符、堆外内存、网卡包速率与下游连接配额。
09.1.2.4-002 CPU 瓶颈如何识别?
一句话结论
看 CPU 使用率、运行队列长度、上下文切换与 user/sys 占比;运行队列持续多于核数、sys 占比高说明调度/锁/系统调用压力大,user 高说明计算本身重。
概念解释
- user:应用代码消耗。
- sys:内核态(系统调用、中断)消耗。
- run queue:等待 CPU 的线程数。
原理流程
user 高 → 计算/序列化/算法重
sys 高 → 系统调用、切换、中断多
run queue 长 → CPU 饱和,线程排队
常见误区
- 误区:CPU 使用率 100% 就是计算瓶颈。可能是锁自旋、上下文切换或软中断在耗 CPU。
- 误区:单进程 CPU 高就直接加机器。先区分是代码热点还是锁/切换问题。
追问
- 问:用什么工具定位?答:top/mpstat 看整体,火焰图看方法热点,pidstat 看切换与运行队列。
- 问:sys 占比高常见原因?答:大量系统调用、网络收包软中断、线程频繁阻塞唤醒。
09.1.2.4-003 内存瓶颈:堆、栈、缓存、每连接状态怎么评估?
一句话结论
分别估算堆内对象(每请求 × 在途并发)、线程/协程栈、本地缓存与堆外/直接缓冲;容量上限 = 可用内存 / 单请求与单连接平均占用,并预留 GC、系统与碎片余量。
概念解释
- 堆内:请求对象、业务数据、集合。
- 栈:线程栈或协程栈。
- 缓存:本地缓存占用与淘汰策略。
- 堆外:Netty/网络直接内存、原生库。
原理流程
内存需求 = 每请求对象 × 在途并发
+ 线程/协程栈 × 数量
+ 本地缓存 + 堆外缓冲
需求 ≤ 可用内存 − 系统/GC 余量
常见误区
- 误区:只统计堆内对象。栈、直接内存与本地缓存不计入会高估可承载并发。
- 误区:本地缓存无限增长没关系。缓存膨胀挤爆堆内存,应设容量与淘汰策略。
追问
- 问:如何测单请求内存占用?答:压测前后堆快照/对象统计,扣除缓存与基础占用,取平均单请求大小。
- 问:堆外内存泄漏怎么发现?答:监控直接内存/原生内存用量,结合进程 RSS 与 GC 堆外指标。
09.1.2.4-004 网络瓶颈:带宽、连接数、包速率怎么判断?
一句话结论
带宽看吞吐是否打满网卡;包速率(pps)看小包场景是否达到中断/处理上限;连接数受 fd、端口与中间件连接表约束;三者分别监控,小包服务常先撞 pps 而非带宽。
概念解释
- 带宽:大报文传输能力。
- pps:每包中断与协议栈处理成本。
- 连接:fd、四元组、连接表条目。
原理流程
大报文 → 带宽先饱和
小包 → pps/中断先饱和
海量连接 → fd/连接表先饱和
常见误区
- 误区:网卡带宽没打满网络就没问题。小包高频场景 pps 与软中断可能已饱和。
- 误区:连接数只受服务端 fd 限制。客户端端口、中间件连接表同样是约束。
追问
- 问:看哪些网络指标?答:网卡吞吐、pps、重传、软中断计数、连接数与 fd 用量。
- 问:大包与小包优化方向?答:大包关注压缩与带宽;小包关注批量合并、减少中断与连接复用。
09.1.2.4-005 DB / 下游依赖为什么常常先成为瓶颈?
一句话结论
DB 受连接数、锁、磁盘 IO 与查询能力约束,共享给所有应用实例;应用可水平扩容,但 DB 能力扩展更慢,因此高并发链条里下游依赖通常先饱和,并通过连接池与 RT 反压到应用层。
概念解释
- 共享资源:DB/缓存/外部接口被全部实例共享。
- 扩展慢:存储垂直扩展有限,分片复杂度高。
- 反压:下游慢 → 应用线程占用 → 入口排队。
原理流程
应用实例扩容 → 连接数累加打到 DB
DB 连接/锁/IO 饱和 → RT 上升
→ 应用池占用上升 → 入口排队
常见误区
- 误区:应用实例加够了系统就扛得住。DB 与下游配额没有同步扩容,应用扩容只增加对下游的压力。
- 误区:下游慢是偶发抖动。要区分临时抖动与能力上限,持续饱和需扩展或治理下游。
追问
- 问:应用侧怎么缓解 DB 瓶颈?答:缓存、索引与 SQL 优化、读写分离、限流降级、异步削峰。
- 问:扩容前为什么先评估下游?答:下游总连接与能力是共享上限,应用实例数 × 单实例连接不能超过下游配额。
09.1.2.4-006 垂直扩展与水平扩展各自的边界是什么?
一句话结论
垂直扩展升配单机(CPU/内存/磁盘),受单机硬件上限、可靠性与成本限制;水平扩展加实例,受无状态化、共享状态与下游容量约束;两者互补,先垂直优化再水平扩容。
概念解释
- 垂直:换更强机器,简单但有物理上限,单点风险仍在。
- 水平:多实例分担流量,需要负载均衡、无状态、数据分片。
- 边界:水平扩展在有状态共享与下游瓶颈处停止线性增长。
原理流程
垂直:单机规格上限 + 单点风险
水平:实例数线性增长前提 = 无状态 + 下游可扩展
常见误区
- 误区:水平扩展可以无限加机器。共享 DB、会话状态、本地热点与协调成本会限制扩展效率。
- 误区:垂直扩展没有价值。参数调优、升配在小规模阶段比分布式改造成本低。
追问
- 问:什么服务容易水平扩展?答:无状态计算服务,请求不依赖本地会话,状态外置到缓存/DB。
- 问:有状态服务怎么扩展?答:分片/分区,按 key 路由,迁移与再平衡成本高。
09.1.2.4-007 无状态服务为什么能水平扩容?有状态部分怎么办?
一句话结论
无状态服务不把会话/数据留在本机,任意实例都能处理任意请求,可由负载均衡自由分发;有状态部分(会话、文件、分片数据)外置到共享存储/缓存,或按分片固定路由到对应实例。
概念解释
- 无状态:实例可随时增减、替换。
- 状态外置:Session 入 Redis,文件对象存储,数据分片存储。
- 有状态分片:按 key 分区,实例负责固定分区。
原理流程
无状态计算 → 实例池弹性伸缩
状态 → 共享存储 / 缓存
分区数据 → 按 key 路由到对应实例
常见误区
- 误区:把登录态存在实例本地内存就能水平扩容。本地会话导致请求粘性,扩缩容与会话丢失问题。
- 误区:有状态服务不能扩容。通过分片与再平衡可以扩展,但迁移复杂度远高于无状态。
追问
- 问:Session 外置要注意什么?答:缓存高可用、序列化兼容、失效策略与跨机房访问延迟。
- 问:分区再平衡怎么做?答:分片迁移、双写过渡、流量切换,避免迁移期间数据不一致。
09.1.2.4-008 Amdahl 定律在扩容加速比上是什么含义?
一句话结论
Amdahl 定律指出系统加速比受串行比例限制:可并行部分随核数/实例数提升,串行(单点、共享协调)部分无法并行,扩展效率随规模增大被稀释;瓶颈在串行段时加机器收益递减。
概念解释
- 并行比例 p 可加速,串行比例 1−p 固定。
- 加速比上限受串行段约束。
- 分布式中的协调、单库、排队都属串行约束。
原理流程
加速比 ≈ 1 / ((1−p) + p/N)
N → ∞ 时上限 ≈ 1/(1−p)
常见误区
- 误区:实例翻倍吞吐就翻倍。存在串行瓶颈(单库、全局锁、协调服务)时收益递减。
- 误区:Amdahl 只适用于多核。它同样描述分布式扩展中非并行部分的制约。
追问
- 问:如何提升可并行比例?答:消除全局共享串行点、数据分片、无状态化、减少集中协调。
- 问:扩展收益递减怎么判断?答:加实例后吞吐不再线性增长,观察共享瓶颈(DB/锁/协调)。
09.1.2.4-009 实例数推算需要哪些输入?怎么留 buffer?
一句话结论
输入:目标峰值 QPS/TPS、单机压测安全水位能力、峰值系数、冗余目标(N-1 故障、发布滚动);推算理论实例后乘以冗余系数,并校验单台故障后剩余实例不越拐点。
概念解释
- 单机能力:压测拐点前安全水位,不是极限值。
- 冗余:故障兜底、发布余量、未知增长。
- 校验:N-1 与发布滚动两种场景。
原理流程
理论实例 = ceil(目标峰值 QPS / 单机安全 QPS)
配置实例 = 理论实例 × 冗余系数
校验:N-1 台承载峰值时水位 < 拐点
常见误区
- 误区:输入只有平均 QPS。峰值系数与长尾 RT 必须纳入,否则高峰排队。
- 误区:冗余系数拍脑袋。应从可用性目标、故障演练与成本约束确定。
追问
- 问:发布滚动期间怎么算容量?答:滚动发布有实例分批下线,剩余实例需承接峰值,按此校验最低在线实例数。
- 问:单机能力取拐点哪个位置?答:延迟仍在 SLO 内、错误率为 0 的最高稳定水位。
09.1.2.4-010 扩容是否线性?非线性的常见原因是什么?
一句话结论
理想无状态、无共享竞争才近似线性;实际非线性常见于:共享 DB/缓存瓶颈、全局锁与协调、负载不均、状态迁移、网络开销与下游连接配额;加机器到一定程度收益趋零。
概念解释
- 共享竞争:所有实例访问同一存储。
- 负载不均:热点 key/实例倾斜。
- 协调成本:注册发现、配置同步、分布式锁。
原理流程
实例 ↑ → 吞吐近似线性(无共享瓶颈)
遇到共享瓶颈 → 斜率下降
下游饱和 → 加实例不提升吞吐
常见误区
- 误区:压测单机能力 × 实例数 = 集群能力。共享资源未纳入计算,集群实际能力更低。
- 误区:扩容后吞吐没涨是应用问题。先查下游与共享中间件是否已饱和。
追问
- 问:如何验证扩展线性度?答:逐级加实例画吞吐曲线,对比斜率;找出第一个变平的共享瓶颈。
- 问:负载不均如何放大非线性?答:热点实例先饱和,整体容量由最忙实例决定。
09.1.2.4-011 会话粘性、本地缓存对水平扩展有什么影响?
一句话结论
会话粘性让请求固定到实例,扩缩容与故障切换受影响;本地缓存使实例间数据不一致,扩容后缓存命中率下降;两者都削弱弹性,应尽量外置状态或设计可重建的本地缓存。
概念解释
- 粘性:负载均衡按会话路由,实例故障转移成本高。
- 本地缓存:热点数据在本机,扩容后冷缓存。
- 影响:命中率、一致性、实例不可随意替换。
原理流程
粘性会话 → 扩缩容受约束
本地缓存 → 新实例冷启动、命中率波动
外置缓存 → 实例可自由替换
常见误区
- 误区:本地缓存越大越好。大缓存占内存且扩容时命中率损失,需结合容量评估。
- 误区:粘性会话能解决一致性问题。它只是路由固定,不能替代正确的状态管理。
追问
- 问:无粘性部署前提是什么?答:会话外置、登录态共享、本地缓存可失效重建。
- 问:本地缓存预热怎么做?答:启动加载热点数据或首次访问回源,扩容后关注命中率回升曲线。
09.1.2.4-012 数据分片(sharding)如何提升存储容量?
一句话结论
按 key 把数据拆到多个存储节点,单节点容量与压力分摊到分片;分片提升存储与写入能力,但引入路由、再平衡、跨分片事务与查询复杂度。
概念解释
- 分片键:决定数据归属与路由。
- 容量:单分片上限 × 分片数 ≈ 总容量。
- 代价:跨分片聚合、扩容迁移、热点分片。
原理流程
按分片键哈希/范围分区
→ 各节点承担部分数据与读写
→ 扩容时拆分/迁移分片
常见误区
- 误区:分片键随便选。选择不当导致热点分片或跨片查询频繁。
- 误区:分片后无限扩展。热点数据、跨片事务与协调仍构成上限。
追问
- 问:哈希分片与范围分片区别?答:哈希分布均匀但范围查询难;范围分片便于顺序查询但易热点。
- 问:分片扩容怎么迁移?答:预留分片数或一致性哈希,迁移期间双写/增量同步,控制影响窗口。
09.1.2.4-013 读写分离扩展读能力的前提与代价是什么?
一句话结论
读写分离把读请求分散到从库,前提是主从复制延迟可控、读可接受短暂旧数据;代价是复制延迟带来一致性风险、故障切换复杂、写能力仍受主库约束。
概念解释
- 读扩展:从库分担查询。
- 一致性:复制延迟内从库可能读到旧数据。
- 写约束:主库仍是写瓶颈。
原理流程
写 → 主库 → 复制到从库
读 → 按路由打到从库(或主库)
延迟窗口:从库数据可能落后
常见误区
- 误区:读写分离解决写瓶颈。写仍在主库,只扩展读能力。
- 误区:从库读到的数据一定最新。强一致读要走主库或等待复制追上。
追问
- 问:哪些读必须走主库?答:写后立即读、要求强一致的场景。
- 问:复制延迟怎么监控?答:主从延迟秒数/位点差,超阈值告警并调整读路由。
09.1.2.4-014 扩容带来的协调成本有哪些?
一句话结论
实例增多带来服务注册发现、配置与负载均衡更新、集群协调(选主/心跳/锁)、监控归集与跨实例通信;协调服务本身可能成为新瓶颈,且实例间网络开销上升。
概念解释
- 注册发现:上下线通知与健康检查。
- 协调:分布式锁、选主、配置一致。
- 通信:实例间调用、状态同步。
原理流程
实例数 ↑
→ 注册/心跳/配置同步压力 ↑
→ 协调服务与网络开销 ↑
常见误区
- 误区:加实例只增加业务机器。注册中心、配置中心、监控系统也要评估容量。
- 误区:协调调用可以忽略。高频心跳与锁竞争会占用 CPU 与网络,并引入延迟。
追问
- 问:如何降低协调成本?答:减少心跳频率、本地缓存配置、避免高频分布式锁、批量化协调操作。
- 问:协调服务瓶颈信号?答:注册延迟、心跳超时、配置推送滞后、锁等待升高。
09.1.2.4-015 单机压测结论如何外推到集群?
一句话结论
先确认集群无共享瓶颈,单机安全能力 × 实例数再打折(考虑负载不均、协调开销、共享下游);外推前校验 DB/缓存/下游配额能承接集群总连接与吞吐,不可直接相乘作为承诺容量。
概念解释
- 折扣因子:不均、协调、共享竞争。
- 下游校验:总连接、总 QPS 是否在下游能力内。
- 压测复核:集群级压测或全链路压测验证。
原理流程
集群能力 ≈ 单机安全能力 × 实例数 × 折扣因子
约束:总连接/总吞吐 ≤ 下游集群能力
最终以集群压测复核
常见误区
- 误区:单机 3000 QPS × 10 台 = 3 万 QPS 承诺值。未考虑共享瓶颈与不均,结论偏乐观。
- 误区:外推只算应用实例。下游总能力与网络带宽也要按集群规模核算。
追问
- 问:折扣因子怎么取?答:没有通用常数,按集群压测实测线性度确定,宁可保守。
- 问:什么情况下必须集群压测?答:多实例共享同一 DB/缓存、存在分布式协调或状态分片时。
09.1.2.4-016 大促前容量评估的完整步骤是什么?
一句话结论
步骤:梳理流量预估与核心链路 → 盘点各层资源与下游配额 → 单机压测取安全能力 → 推算实例与冗余 → 校验 N-1 与发布场景 → 准备限流降级预案 → 全链路压测复核 → 形成容量清单与回退方案。
概念解释
- 输入:业务预估、历史峰值、活动节奏。
- 输出:实例清单、水位红线、限流降级预案、压测结论。
- 闭环:压测发现缺口 → 扩容/优化 → 复核。
原理流程
流量预估 → 分层盘点 → 单机压测
→ 推算容量 → 故障校验 → 预案准备
→ 全链路复核 → 容量清单
常见误区
- 误区:容量评估只在大促前做一次。日常监控与定期复盘才能反映业务增长。
- 误区:只评估应用层。DB、缓存、MQ、网关、带宽与第三方接口都要纳入容量清单。
追问
- 问:容量清单包含什么?答:各服务实例数与水位、下游配额、限流阈值、降级开关、扩容预案与负责人。
- 问:评估发现缺口怎么办?答:按瓶颈层级优化(缓存/SQL/异步化),不足再扩容,保留降级兜底。
09.1.2.4-017 容量水位红线怎么定?经验值的依据与边界是什么?
一句话结论
水位红线应来自压测拐点与 SLO:在 RT/错误率仍达标时预留安全余量;常见的 CPU 70% 一类经验值只是起点参考,不同任务类型(CPU/IO 密集)与依赖结构对应的拐点位置不同,必须实测修正。
概念解释
- 拐点:资源饱和、RT 陡升的位置。
- 红线:拐点前预留缓冲的水位线。
- 经验值:粗筛参考,不能替代压测。
原理流程
压测得到 RT-资源水位曲线
→ 选 SLO 内最高稳定水位
→ 预留余量作为红线
常见误区
- 误区:CPU 70% 是通用真理。IO 密集服务 CPU 水位参考意义有限,瓶颈在下游与连接。
- 误区:红线按极限利用率定。越过拐点后排队与长尾非线性恶化,红线必须在拐点之前。
追问
- 问:不同资源红线能一样吗?答:不能;CPU、内存、连接池、下游分别按各自拐点定水位。
- 问:水位告警怎么配合扩容?答:达到预警水位准备扩容,达到红线触发限流/扩容动作。
09.1.2.4-018 热点不均导致的容量虚耗怎么处理?
一句话结论
热点使少数实例/分片先饱和,整体容量由最忙节点决定,其余节点空闲;处理手段包括热点发现与打散、分片/负载均衡优化、热点缓存与隔离、副本分担读流量,使负载分布趋近均衡。
概念解释
- 热点:少量 key/请求占大部分流量。
- 虚耗:空闲节点无法接管热点压力。
- 手段:识别、打散、缓存、隔离、分片复制。
原理流程
热点检测 → 定位 key/接口
→ 打散路由 / 本地缓存
→ 读副本分担 / 热点隔离池
常见误区
- 误区:负载均衡轮询就一定均衡。请求按 key 集中时轮询到实例仍可能出现数据热点。
- 误区:整体平均负载低就容量充足。热点节点可能已饱和,平均指标掩盖问题。
追问
- 问:如何发现热点?答:监控接口/key 维度 QPS、缓存命中率、分片负载分布。
- 问:写热点怎么缓解?答:分片打散、异步合并写、限流隔离,必要时业务层拆分热点实体。
09.1.2.4-019 纵向调优与横向扩机器的优先级是什么?
一句话结论
先做低成本纵向优化(参数、缓存、SQL/索引、异步化、消除锁与串行点),把单机能力提上去;优化仍不足再水平扩容;不分析瓶颈直接加机器会浪费成本,且可能压垮共享下游。
概念解释
- 纵向:单机参数、代码、SQL、缓存、池化配置。
- 横向:加实例、加分片。
- 顺序:先识别瓶颈层级,优化该层,再评估扩容。
原理流程
定位瓶颈层
→ 纵向优化该层(低成本)
→ 能力仍不足 → 横向扩容
→ 下游瓶颈先治理共享资源
常见误区
- 误区:扩容是最快的解法。慢 SQL、缺索引、无缓存导致的瓶颈,加机器不解决根本问题。
- 误区:调参可以替代架构优化。参数调整有边界,结构性瓶颈(单库、全局锁)需架构改造。
追问
- 问:哪些优化收益通常最大?答:缓存命中、索引与 SQL、异步削峰、消除同步阻塞与锁竞争。
- 问:优化后为什么要重新压测?答:参数与结构变化改变单机拐点,容量结论需重新验证。
09.1.2.4-020 容量评估中哪些数字不能编造,必须实测?
一句话结论
单机拐点 QPS、各分位 RT、单请求/单连接内存、上下文切换与队列等待、下游真实能力必须来自本机/本环境压测;理论公式只做初估,经验值需标注适用边界,待确认项写明验证方法。
概念解释
- 必须实测:单机能力、内存占用、瓶颈位置。
- 可估算:并发换算、实例理论数。
- 禁止:套用博客标称值当作生产容量结论。
原理流程
公式初估 → 压测实测修正
→ 结论标注环境与场景
→ 待确认项写明验证点
常见误区
- 误区:其他项目的单机 QPS 可以直接借用。硬件、代码、数据与下游不同,不可照搬。
- 误区:压测没跑就写容量数字。未实测的结论属于编造,应标注待确认并安排压测。
追问
- 问:哪些属于待确认?答:未压测的单机能力、未观测的长尾、下游未知配额,都应写明需要验证的点。
- 问:报告如何区分估算与实测?答:标注数字来源(公式估算 / 本次压测 / 历史监控),结论以实测为准。