01.9 阶段 8 云原生部署、可观测与高并发演进(可选)
所属:全栈开发面试题库 / 学习路径 / 01 Java 与 Spring 全栈
本页目录
一、阶段定位
本阶段是整条路径的"可选收尾":把 阶段 7 的服务打包成容器、部署到 Kubernetes、建立指标/日志/链路三件套,并学会按压测数据而不是凭感觉决定下一步演进。因为前 7 个阶段解决"怎么写",本阶段解决"怎么稳定跑在生产、怎么知道它是不是瓶颈、该不该加缓存/拆库/异步化"。
本阶段对求职不是硬性要求,但"没做过压测就凭感觉谈高并发、部署后没有任何监控与告警"是常见的面试减分项。不掌握会卡在:(1) Dockerfile 一把梭把整个 JDK 与源码都塞进镜像,体积 500MB+;(2) Kubernetes 部署了但没配探针,进程没起好就接流量;(3) 服务跑起来没有任何指标,RT 涨了不知道是 CPU、数据库还是线程池;(4) 被问"你这个系统能扛多少 QPS",答"应该还行"。
本阶段原有"卡点"落到现象:(1) 说不出 P95/P99 与平均 RT 的区别,给不出自己服务的容量数字;(2) 镜像构建出来了,但不知道怎么配 resources 限制与健康检查;(3) 谈高并发演进时只会堆术语,给不出"根据什么指标决定加缓存还是加机器"。出现任一现象,本阶段就是为你补的。
二、阶段目标与投入
| 能力目标(可验证的行为) | 验证方式 |
|---|---|
| 能写一个分层、精简的 Dockerfile | 镜像 < 300MB,多阶段构建 |
| 能用 Deployment 部署并配探针与资源 | Pod 就绪后才接流量 |
| 能接入指标看板看到 CPU/RT/错误率 | 压测时数据可见 |
| 能做一次压测并给出 QPS 与 P99 | 用 wrk/jmeter 跑出数据 |
| 能根据压测数据指出瓶颈 | 说清瓶颈在 DB/缓存/线程池哪一段 |
| 能给出下一步演进建议 | 基于指标而非跟风 |
建议学时:
- 全职:2 周,约 50 小时。容器化 10、K8s 15、可观测 10、压测 10、演进决策 5。
- 在职:4 周,约 55 小时。
三、先修自检
| 先修项 | 合格标准 | 不合格时回到 |
|---|---|---|
| 微服务 | 已有多服务可部署 | 01.8 阶段 7 |
| JVM 调优 | 会给堆参数 | 01.3 阶段 2 |
| 网络/端口 | 知道端口监听 | 01.1 阶段 0 |
四、知识地图
| 模块 | 知识点 | 掌握程度 | 对应题库章节 |
|---|---|---|---|
| 容器化 | Dockerfile 分层、多阶段构建、镜像大小 | 会用 | 08.1 容器化 |
| Kubernetes | Deployment/Service/Ingress/ConfigMap | 会用 | 08.2 Kubernetes |
| 探针与资源 | liveness/readiness/startup、requests/limits | 能讲清原理 | 08.2 Kubernetes |
| 可观测性 | 指标/日志/链路、告警阈值 | 会用 | 08.4 CI/CD 与可观测性 |
| 压测 | wrk/jmeter、QPS、P95/P99、容量估算 | 能讲清原理 | 09.1 高并发基础 |
| 演进决策 | 何时缓存/异步/拆库/伸缩 | 能讲清原理 | 11.1 全链路设计 |
五、分模块精讲
5.1 容器化与 Dockerfile
为什么需要它:容器把"我的机器能跑"变成一致的运行环境。写不好 Dockerfile,镜像大、启动慢、安全风险高。
核心机制:
- 镜像分层:每条指令一层,合理利用缓存;把变动少的(依赖)放前面。
- 多阶段构建:第一阶段用 Maven 镜像编译,第二阶段只复制 jar 到 JRE 运行镜像,最终镜像不含构建工具与源码。
- 基础镜像选
eclipse-temurin:17-jre(精简),不要用latest。 - 容器内以非 root 运行;时区与字体按需装。
最小可运行示例:
# 构建阶段
FROM maven:3.9-eclipse-temurin-17 AS build
WORKDIR /src
COPY pom.xml .
RUN mvn -q dependency:go-offline
COPY src ./src
RUN mvn -q package -DskipTests
# 运行阶段
FROM eclipse-temurin:17-jre
WORKDIR /app
COPY --from=build /src/target/*.jar app.jar
EXPOSE 8080
ENTRYPOINT ["java","-XX:MaxRAMPercentage=75","-jar","/app/app.jar"]
docker build -t order-service:1.0 .
docker run -p 8080:8080 order-service:1.0
常见坑:
| 现象 | 原因 | 修法 |
|---|---|---|
| 镜像 600MB | 用 JDK 镜像且只跑 jar | 换 JRE、多阶段 |
| 每次重新下依赖 | COPY 顺序错 | 先 COPY pom 再下依赖 |
| 时区不对 | 镜像默认 UTC | 装 tzdata 或设 TZ |
面试考法:问"镜像分层""多阶段构建""为什么用 MaxRAMPercentage"。
5.2 Kubernetes 部署对象
为什么需要它:多实例部署、扩缩容、滚动更新靠编排。手写脚本管 10 台机器还行,管 100 台不可能。
核心机制:
- Pod:最小调度单位,通常一个 Pod 一个应用容器。
- Deployment:管理 Pod 副本数、滚动更新(maxSurge/maxUnavailable)。
- Service:为一组 Pod 提供稳定虚拟 IP 与负载均衡(ClusterIP/NodePort/LoadBalancer)。
- Ingress:HTTP 路由入口,按域名/路径转发到不同 Service。
- ConfigMap/Secret:配置与密钥挂载,不打进镜像。
最小可运行示例:
apiVersion: apps/v1
kind: Deployment
metadata: { name: order-service }
spec:
replicas: 3
selector: { matchLabels: { app: order-service } }
template:
metadata: { labels: { app: order-service } }
spec:
containers:
- name: app
image: order-service:1.0
ports: [{ containerPort: 8080 }]
resources:
requests: { cpu: "500m", memory: "512Mi" }
limits: { cpu: "1", memory: "1Gi" }
---
apiVersion: v1
kind: Service
metadata: { name: order-service }
spec:
selector: { app: order-service }
ports: [{ port: 8080, targetPort: 8080 }]
常见坑:
| 现象 | 原因 | 修法 |
|---|---|---|
| Pod 一直 CrashLoopBackOff | 应用启动失败 | 看 logs、events |
| Service 不通 | selector 标签不匹配 | 对齐 labels |
| 镜像拉取失败 | imagePullSecrets/镜像名错 | 检查仓库与 secret |
面试考法:问"Deployment 滚动更新策略""Service 类型""Pod 与容器关系"。
5.3 探针与资源限制
为什么需要它:进程起来不等于能接流量(JVM 预热、数据库连接池建立要时间)。没配 readiness 探针,新 Pod 一启动就被打流量导致大量 5xx。
核心机制:
- livenessProbe:失败则重启容器;用于死锁、死循环。
- readinessProbe:失败则从 Service 摘除,不接流量;用于启动中/依赖未就绪。
- startupProbe(K8s 1.16+):慢启动应用先用它,成功后再交给 liveness/readiness,避免慢启动被误杀。
- resources.requests:调度依据;limits:硬上限,CPU 超了会被 throttle,内存超了会 OOMKill。
- JVM 堆要在容器内按内存限制设,用
-XX:MaxRAMPercentage=75而不是写死 -Xmx。
最小可运行示例:
livenessProbe:
httpGet: { path: /actuator/health/liveness, port: 8080 }
periodSeconds: 10
initialDelaySeconds: 60
readinessProbe:
httpGet: { path: /actuator/health/readiness, port: 8080 }
periodSeconds: 5
常见坑:
| 现象 | 原因 | 修法 |
|---|---|---|
| 启动中就被 kill | liveness 太早 | 加 startupProbe |
| 新实例一上来 5xx | 没 readiness | 配 readiness |
| 内存超限被 OOMKill | 堆设大于 limit | MaxRAMPercentage |
面试考法:问"三种探针区别""CPU limit 与内存 limit 行为差异"。
5.4 可观测性:指标、日志、链路
为什么需要它:没有可观测性,线上问题只能靠猜。三件套回答三个问题:现在健康吗(指标)、发生了什么(日志)、请求在哪慢(链路)。
核心机制:
- 指标:Micrometer 埋点(JVM、HTTP、自定义业务指标)→ Prometheus 抓取 → Grafana 看板。关注 QPS、RT(P95/P99)、错误率、CPU、GC、连接池。
- 日志:统一 JSON 格式输出到 stdout,由 Fluentd/Filebeat 采集到 ES/Loki;带 traceId。
- 链路:Micrometer Tracing 导出到 Zipkin/SkyWalking/Jaeger。
- 告警阈值:错误率 > 1%、P99 > 500ms、Pod 重启、磁盘 > 80%。
最小可运行示例:
<dependency>
<groupId>org.springframework.boot</groupId>
<artifactId>spring-boot-starter-actuator</artifactId>
</dependency>
<dependency>
<groupId>io.micrometer</groupId>
<artifactId>micrometer-registry-prometheus</artifactId>
</dependency>
management:
endpoints:
web: { exposure: { include: health,metrics,prometheus } }
metrics:
tags: { application: order-service }
常见坑:
| 现象 | 原因 | 修法 |
|---|---|---|
| 看板没数据 | 没暴露 prometheus 端点 | 配 exposure |
| 日志查不到请求 | 没 traceId | MDC 透传 |
| 告警太多疲劳 | 阈值太敏感 | 分级、持续窗口 |
面试考法:问"三件套各解决什么""P99 为什么重要""怎么设告警"。
5.5 压测与容量评估
为什么需要它:"能扛多少"不能靠拍。压测给出现有瓶颈,容量评估给出该加多少机器。
核心机制:
- 工具:wrk(轻量 HTTP)、JMeter(场景丰富)、Gatling;分布式压测从多机发起避免单机打满。
- 指标:QPS(吞吐量)、RT(平均/P95/P99)、错误率;P99 比平均更能反映长尾用户体验。
- 方法:阶梯加压,找到 RT 拐点(吞吐不再升、P99 飙升);观察 CPU、GC、DB、连接池。
- 容量估算:单实例安全 QPS × 实例数 × 冗余系数(如 0.7)= 集群容量;按峰值 QPS 反推实例数。
最小可运行示例:
# wrk:12 线程、400 连接、持续 30 秒
wrk -t12 -c400 -d30s http://order-service/actuator/health
# 输出含 Requests/sec 与 Latency 分布
常见坑:
| 现象 | 原因 | 修法 |
|---|---|---|
| 压测数据不真实 | 压测机成瓶颈 | 分布式压测、看压测机 CPU |
| P99 高但平均低 | 长尾/GC | 看 GC 日志、慢接口 |
| 压测打挂生产 | 没隔离 | 预发环境压测 |
面试考法:问"怎么做压测""怎么估容量""P99 高怎么办"。
5.6 演进决策:什么时候加缓存/异步/拆库
为什么需要它:技术演进要基于指标而不是跟风。过早优化(单体上微服务)与过晚优化(单表千万行还不分库)都要命。
核心机制:
- 何时加缓存:读多写少、热点明显、DB QPS 接近上限;先看 DB 慢查询与 QPS。
- 何时异步化:非主流程通知(短信、积分)、削峰(下单瞬间流量);用消息队列。
- 何时拆库分表:单表行数千万级、写入 QPS 高、单库连接/IO 到顶;用 ShardingSphere。
- 何时水平扩展:无状态应用加 Pod 副本;有状态(DB/缓存)先做读写分离/集群。
- 顺序:先优化 SQL 与索引 → 加缓存 → 异步化 → 读写分离 → 分库分表 → 微服务拆分。不要反过来。
常见坑:
| 现象 | 原因 | 修法 |
|---|---|---|
| 缓存加了 DB 还是慢 | 慢 SQL 没优化 | 先 explain 加索引 |
| 异步化后数据不一致 | 没做幂等/事务消息 | 阶段 6 方案 |
| 分库后跨库查询难 | 分片键选错 | 按核心查询选分片键 |
面试考法:问"系统演进路线""什么时候该拆微服务""你做过的性能优化案例"。
六、分层练习
6.1 复现型
| 练习 | 要求 | 验收标准 | 预计耗时 |
|---|---|---|---|
| 多阶段 Dockerfile | 构建+运行两阶段 | 镜像 < 300MB | 2 小时 |
| Deployment 部署 | 3 副本 + Service | kubectl get pods 全部 Running | 2 小时 |
| 配探针 | liveness+readiness | 启动中不接流量 | 1 小时 |
| 接 Prometheus | 暴露 /actuator/prometheus | 指标抓取到 | 2 小时 |
| wrk 压测 | 对一个接口压测 | 输出 QPS 与 P99 | 1 小时 |
6.2 改造型
| 练习 | 要求 | 验收标准 | 预计耗时 |
|---|---|---|---|
| 修慢启动被 kill | 加 startupProbe | 不再 CrashLoop | 1 小时 |
| 修 OOMKill | 改 MaxRAMPercentage | 不被 kill | 1 小时 |
| 加业务指标 | 埋订单创建计数 | Grafana 可见 | 2 小时 |
| 设告警 | 错误率/P99 阈值 | 触发可通知 | 2 小时 |
6.3 设计型
| 练习 | 要求 | 验收标准 | 预计耗时 |
|---|---|---|---|
| 容量评估报告 | 压测 + 估算实例数 | 给出数字与依据 | 4 小时 |
| 演进方案 | 基于压测数据给下一步 | 顺序合理、指标驱动 | 4 小时 |
| 灰度发布 | 按 Header 路由 | 10% 流量到灰度 | 4 小时 |
七、排障表
| 现象 | 可能原因 | 排查步骤 | 解决办法 |
|---|---|---|---|
| Pod CrashLoopBackOff | 应用启动失败 | kubectl logs/describe | 看启动日志 |
| 启动中接了 5xx | 没 readiness | 看探针配置 | 配 readiness |
| 被 OOMKill | 内存 limit 小于堆 | kubectl describe 看 OOMKilled | MaxRAMPercentage |
| CPU 周期性毛刺 | CPU limit 被 throttle | 看 container_cpu | 调 limit |
| 看板无数据 | 端点未暴露 | 看 /actuator | exposure include |
| P99 飙高 | GC/慢接口 | 看 GC 日志、链路 | 优化代码/加缓存 |
| 压测 QPS 上不去 | 压测机/单实例瓶颈 | 看压测机 CPU | 分布式压测/扩容 |
| 镜像拉取失败 | 仓库/secret | describe events | 配 imagePullSecrets |
八、出口条件
全部勾选后,整条路径的阶段学习完成,可回到 路径首页 查看《单机到高并发的完整演进》与《实战项目阶梯》做综合演练。
- [ ] 能写多阶段 Dockerfile 并控制镜像大小
- [ ] 能用 Deployment + Service + Ingress 部署服务
- [ ] 能区分三种探针并为慢启动应用配 startupProbe
- [ ] 能接入 Prometheus/Grafana 并看到 QPS/RT/错误率
- [ ] 能做一次压测并给出 QPS 与 P99
- [ ] 能根据压测数据指出瓶颈并给出演进建议
- [ ] 排障表随机抽三个能定位
自测题:
- liveness、readiness、startup 三种探针的区别?
- 要点:重启容器/摘流量/慢启动保护。
- CPU limit 与内存 limit 的行为差异?
- 要点:CPU 超了被 throttle(不杀),内存超了被 OOMKill。
- 为什么用 MaxRAMPercentage 而不是写死 -Xmx?
- 要点:容器内存由 limit 决定,JVM 按容器感知自动算堆。
- P99 与平均 RT 哪个更重要?为什么?
- 要点:P99 反映长尾用户体验,平均会掩盖少数慢请求。
- 系统演进的合理顺序?
- 要点:SQL/索引 → 缓存 → 异步 → 读写分离 → 分库分表 → 微服务。
- 怎么估算一个服务需要多少实例?
- 要点:单实例安全 QPS × 副本数 × 冗余系数 = 容量,按峰值反推。