罗罗编程学习记录
本页内容 展开查看

01.9 阶段 8 云原生部署、可观测与高并发演进(可选)

所属:全栈开发面试题库 / 学习路径 / 01 Java 与 Spring 全栈

本页目录

一、阶段定位

本阶段是整条路径的"可选收尾":把 阶段 7 的服务打包成容器、部署到 Kubernetes、建立指标/日志/链路三件套,并学会按压测数据而不是凭感觉决定下一步演进。因为前 7 个阶段解决"怎么写",本阶段解决"怎么稳定跑在生产、怎么知道它是不是瓶颈、该不该加缓存/拆库/异步化"。

本阶段对求职不是硬性要求,但"没做过压测就凭感觉谈高并发、部署后没有任何监控与告警"是常见的面试减分项。不掌握会卡在:(1) Dockerfile 一把梭把整个 JDK 与源码都塞进镜像,体积 500MB+;(2) Kubernetes 部署了但没配探针,进程没起好就接流量;(3) 服务跑起来没有任何指标,RT 涨了不知道是 CPU、数据库还是线程池;(4) 被问"你这个系统能扛多少 QPS",答"应该还行"。

本阶段原有"卡点"落到现象:(1) 说不出 P95/P99 与平均 RT 的区别,给不出自己服务的容量数字;(2) 镜像构建出来了,但不知道怎么配 resources 限制与健康检查;(3) 谈高并发演进时只会堆术语,给不出"根据什么指标决定加缓存还是加机器"。出现任一现象,本阶段就是为你补的。

二、阶段目标与投入

能力目标(可验证的行为) 验证方式
能写一个分层、精简的 Dockerfile 镜像 < 300MB,多阶段构建
能用 Deployment 部署并配探针与资源 Pod 就绪后才接流量
能接入指标看板看到 CPU/RT/错误率 压测时数据可见
能做一次压测并给出 QPS 与 P99 用 wrk/jmeter 跑出数据
能根据压测数据指出瓶颈 说清瓶颈在 DB/缓存/线程池哪一段
能给出下一步演进建议 基于指标而非跟风

建议学时:

  • 全职:2 周,约 50 小时。容器化 10、K8s 15、可观测 10、压测 10、演进决策 5。
  • 在职:4 周,约 55 小时。

三、先修自检

先修项 合格标准 不合格时回到
微服务 已有多服务可部署 01.8 阶段 7
JVM 调优 会给堆参数 01.3 阶段 2
网络/端口 知道端口监听 01.1 阶段 0

四、知识地图

模块 知识点 掌握程度 对应题库章节
容器化 Dockerfile 分层、多阶段构建、镜像大小 会用 08.1 容器化
Kubernetes Deployment/Service/Ingress/ConfigMap 会用 08.2 Kubernetes
探针与资源 liveness/readiness/startup、requests/limits 能讲清原理 08.2 Kubernetes
可观测性 指标/日志/链路、告警阈值 会用 08.4 CI/CD 与可观测性
压测 wrk/jmeter、QPS、P95/P99、容量估算 能讲清原理 09.1 高并发基础
演进决策 何时缓存/异步/拆库/伸缩 能讲清原理 11.1 全链路设计

五、分模块精讲

5.1 容器化与 Dockerfile

为什么需要它:容器把"我的机器能跑"变成一致的运行环境。写不好 Dockerfile,镜像大、启动慢、安全风险高。

核心机制:

  • 镜像分层:每条指令一层,合理利用缓存;把变动少的(依赖)放前面。
  • 多阶段构建:第一阶段用 Maven 镜像编译,第二阶段只复制 jar 到 JRE 运行镜像,最终镜像不含构建工具与源码。
  • 基础镜像选 eclipse-temurin:17-jre(精简),不要用 latest。
  • 容器内以非 root 运行;时区与字体按需装。

最小可运行示例:

# 构建阶段
FROM maven:3.9-eclipse-temurin-17 AS build
WORKDIR /src
COPY pom.xml .
RUN mvn -q dependency:go-offline
COPY src ./src
RUN mvn -q package -DskipTests

# 运行阶段
FROM eclipse-temurin:17-jre
WORKDIR /app
COPY --from=build /src/target/*.jar app.jar
EXPOSE 8080
ENTRYPOINT ["java","-XX:MaxRAMPercentage=75","-jar","/app/app.jar"]
docker build -t order-service:1.0 .
docker run -p 8080:8080 order-service:1.0

常见坑:

现象 原因 修法
镜像 600MB 用 JDK 镜像且只跑 jar 换 JRE、多阶段
每次重新下依赖 COPY 顺序错 先 COPY pom 再下依赖
时区不对 镜像默认 UTC 装 tzdata 或设 TZ

面试考法:问"镜像分层""多阶段构建""为什么用 MaxRAMPercentage"。

5.2 Kubernetes 部署对象

为什么需要它:多实例部署、扩缩容、滚动更新靠编排。手写脚本管 10 台机器还行,管 100 台不可能。

核心机制:

  • Pod:最小调度单位,通常一个 Pod 一个应用容器。
  • Deployment:管理 Pod 副本数、滚动更新(maxSurge/maxUnavailable)。
  • Service:为一组 Pod 提供稳定虚拟 IP 与负载均衡(ClusterIP/NodePort/LoadBalancer)。
  • Ingress:HTTP 路由入口,按域名/路径转发到不同 Service。
  • ConfigMap/Secret:配置与密钥挂载,不打进镜像。

最小可运行示例:

apiVersion: apps/v1
kind: Deployment
metadata: { name: order-service }
spec:
  replicas: 3
  selector: { matchLabels: { app: order-service } }
  template:
    metadata: { labels: { app: order-service } }
    spec:
      containers:
        - name: app
          image: order-service:1.0
          ports: [{ containerPort: 8080 }]
          resources:
            requests: { cpu: "500m", memory: "512Mi" }
            limits: { cpu: "1", memory: "1Gi" }
---
apiVersion: v1
kind: Service
metadata: { name: order-service }
spec:
  selector: { app: order-service }
  ports: [{ port: 8080, targetPort: 8080 }]

常见坑:

现象 原因 修法
Pod 一直 CrashLoopBackOff 应用启动失败 看 logs、events
Service 不通 selector 标签不匹配 对齐 labels
镜像拉取失败 imagePullSecrets/镜像名错 检查仓库与 secret

面试考法:问"Deployment 滚动更新策略""Service 类型""Pod 与容器关系"。

5.3 探针与资源限制

为什么需要它:进程起来不等于能接流量(JVM 预热、数据库连接池建立要时间)。没配 readiness 探针,新 Pod 一启动就被打流量导致大量 5xx。

核心机制:

  • livenessProbe:失败则重启容器;用于死锁、死循环。
  • readinessProbe:失败则从 Service 摘除,不接流量;用于启动中/依赖未就绪。
  • startupProbe(K8s 1.16+):慢启动应用先用它,成功后再交给 liveness/readiness,避免慢启动被误杀。
  • resources.requests:调度依据;limits:硬上限,CPU 超了会被 throttle,内存超了会 OOMKill。
  • JVM 堆要在容器内按内存限制设,用 -XX:MaxRAMPercentage=75 而不是写死 -Xmx。

最小可运行示例:

livenessProbe:
  httpGet: { path: /actuator/health/liveness, port: 8080 }
  periodSeconds: 10
initialDelaySeconds: 60
readinessProbe:
  httpGet: { path: /actuator/health/readiness, port: 8080 }
  periodSeconds: 5

常见坑:

现象 原因 修法
启动中就被 kill liveness 太早 加 startupProbe
新实例一上来 5xx 没 readiness 配 readiness
内存超限被 OOMKill 堆设大于 limit MaxRAMPercentage

面试考法:问"三种探针区别""CPU limit 与内存 limit 行为差异"。

5.4 可观测性:指标、日志、链路

为什么需要它:没有可观测性,线上问题只能靠猜。三件套回答三个问题:现在健康吗(指标)、发生了什么(日志)、请求在哪慢(链路)。

核心机制:

  • 指标:Micrometer 埋点(JVM、HTTP、自定义业务指标)→ Prometheus 抓取 → Grafana 看板。关注 QPS、RT(P95/P99)、错误率、CPU、GC、连接池。
  • 日志:统一 JSON 格式输出到 stdout,由 Fluentd/Filebeat 采集到 ES/Loki;带 traceId。
  • 链路:Micrometer Tracing 导出到 Zipkin/SkyWalking/Jaeger。
  • 告警阈值:错误率 > 1%、P99 > 500ms、Pod 重启、磁盘 > 80%。

最小可运行示例:

<dependency>
  <groupId>org.springframework.boot</groupId>
  <artifactId>spring-boot-starter-actuator</artifactId>
</dependency>
<dependency>
  <groupId>io.micrometer</groupId>
  <artifactId>micrometer-registry-prometheus</artifactId>
</dependency>
management:
  endpoints:
    web: { exposure: { include: health,metrics,prometheus } }
  metrics:
    tags: { application: order-service }

常见坑:

现象 原因 修法
看板没数据 没暴露 prometheus 端点 配 exposure
日志查不到请求 没 traceId MDC 透传
告警太多疲劳 阈值太敏感 分级、持续窗口

面试考法:问"三件套各解决什么""P99 为什么重要""怎么设告警"。

5.5 压测与容量评估

为什么需要它:"能扛多少"不能靠拍。压测给出现有瓶颈,容量评估给出该加多少机器。

核心机制:

  • 工具:wrk(轻量 HTTP)、JMeter(场景丰富)、Gatling;分布式压测从多机发起避免单机打满。
  • 指标:QPS(吞吐量)、RT(平均/P95/P99)、错误率;P99 比平均更能反映长尾用户体验。
  • 方法:阶梯加压,找到 RT 拐点(吞吐不再升、P99 飙升);观察 CPU、GC、DB、连接池。
  • 容量估算:单实例安全 QPS × 实例数 × 冗余系数(如 0.7)= 集群容量;按峰值 QPS 反推实例数。

最小可运行示例:

# wrk:12 线程、400 连接、持续 30 秒
wrk -t12 -c400 -d30s http://order-service/actuator/health
# 输出含 Requests/sec 与 Latency 分布

常见坑:

现象 原因 修法
压测数据不真实 压测机成瓶颈 分布式压测、看压测机 CPU
P99 高但平均低 长尾/GC 看 GC 日志、慢接口
压测打挂生产 没隔离 预发环境压测

面试考法:问"怎么做压测""怎么估容量""P99 高怎么办"。

5.6 演进决策:什么时候加缓存/异步/拆库

为什么需要它:技术演进要基于指标而不是跟风。过早优化(单体上微服务)与过晚优化(单表千万行还不分库)都要命。

核心机制:

  • 何时加缓存:读多写少、热点明显、DB QPS 接近上限;先看 DB 慢查询与 QPS。
  • 何时异步化:非主流程通知(短信、积分)、削峰(下单瞬间流量);用消息队列。
  • 何时拆库分表:单表行数千万级、写入 QPS 高、单库连接/IO 到顶;用 ShardingSphere。
  • 何时水平扩展:无状态应用加 Pod 副本;有状态(DB/缓存)先做读写分离/集群。
  • 顺序:先优化 SQL 与索引 → 加缓存 → 异步化 → 读写分离 → 分库分表 → 微服务拆分。不要反过来。

常见坑:

现象 原因 修法
缓存加了 DB 还是慢 慢 SQL 没优化 先 explain 加索引
异步化后数据不一致 没做幂等/事务消息 阶段 6 方案
分库后跨库查询难 分片键选错 按核心查询选分片键

面试考法:问"系统演进路线""什么时候该拆微服务""你做过的性能优化案例"。

六、分层练习

6.1 复现型

练习 要求 验收标准 预计耗时
多阶段 Dockerfile 构建+运行两阶段 镜像 < 300MB 2 小时
Deployment 部署 3 副本 + Service kubectl get pods 全部 Running 2 小时
配探针 liveness+readiness 启动中不接流量 1 小时
接 Prometheus 暴露 /actuator/prometheus 指标抓取到 2 小时
wrk 压测 对一个接口压测 输出 QPS 与 P99 1 小时

6.2 改造型

练习 要求 验收标准 预计耗时
修慢启动被 kill 加 startupProbe 不再 CrashLoop 1 小时
修 OOMKill 改 MaxRAMPercentage 不被 kill 1 小时
加业务指标 埋订单创建计数 Grafana 可见 2 小时
设告警 错误率/P99 阈值 触发可通知 2 小时

6.3 设计型

练习 要求 验收标准 预计耗时
容量评估报告 压测 + 估算实例数 给出数字与依据 4 小时
演进方案 基于压测数据给下一步 顺序合理、指标驱动 4 小时
灰度发布 按 Header 路由 10% 流量到灰度 4 小时

七、排障表

现象 可能原因 排查步骤 解决办法
Pod CrashLoopBackOff 应用启动失败 kubectl logs/describe 看启动日志
启动中接了 5xx 没 readiness 看探针配置 配 readiness
被 OOMKill 内存 limit 小于堆 kubectl describe 看 OOMKilled MaxRAMPercentage
CPU 周期性毛刺 CPU limit 被 throttle 看 container_cpu 调 limit
看板无数据 端点未暴露 看 /actuator exposure include
P99 飙高 GC/慢接口 看 GC 日志、链路 优化代码/加缓存
压测 QPS 上不去 压测机/单实例瓶颈 看压测机 CPU 分布式压测/扩容
镜像拉取失败 仓库/secret describe events 配 imagePullSecrets

八、出口条件

全部勾选后,整条路径的阶段学习完成,可回到 路径首页 查看《单机到高并发的完整演进》与《实战项目阶梯》做综合演练。

  • [ ] 能写多阶段 Dockerfile 并控制镜像大小
  • [ ] 能用 Deployment + Service + Ingress 部署服务
  • [ ] 能区分三种探针并为慢启动应用配 startupProbe
  • [ ] 能接入 Prometheus/Grafana 并看到 QPS/RT/错误率
  • [ ] 能做一次压测并给出 QPS 与 P99
  • [ ] 能根据压测数据指出瓶颈并给出演进建议
  • [ ] 排障表随机抽三个能定位

自测题:

  1. liveness、readiness、startup 三种探针的区别?
    • 要点:重启容器/摘流量/慢启动保护。
  2. CPU limit 与内存 limit 的行为差异?
    • 要点:CPU 超了被 throttle(不杀),内存超了被 OOMKill。
  3. 为什么用 MaxRAMPercentage 而不是写死 -Xmx?
    • 要点:容器内存由 limit 决定,JVM 按容器感知自动算堆。
  4. P99 与平均 RT 哪个更重要?为什么?
    • 要点:P99 反映长尾用户体验,平均会掩盖少数慢请求。
  5. 系统演进的合理顺序?
    • 要点:SQL/索引 → 缓存 → 异步 → 读写分离 → 分库分表 → 微服务。
  6. 怎么估算一个服务需要多少实例?
    • 要点:单实例安全 QPS × 副本数 × 冗余系数 = 容量,按峰值反推。