08.6.3 CRD 与 Operator 开发
所属:全栈开发面试题库 / 08 云原生与 DevOps / 08.6 Helm 与 Operator
覆盖范围
- CRD 定义与 schema 校验
- Operator 模式与 reconciliation 循环
- controller-runtime、kubebuilder、operator-sdk
- Status 子资源与条件
- 常用 Operator(Prometheus Operator、Ingress Nginx、 cert-manager)
高频题速览
| 编号 | 题目 | 难度 | 频率 |
|---|---|---|---|
| 08.6.3-001 | CRD 是什么?解决什么问题? | 基础 | ★★★★★ |
| 08.6.3-002 | Operator 模式是什么? | 进阶 | ★★★★★ |
| 08.6.3-003 | Reconcile 循环是怎么工作的? | 进阶 | ★★★★★ |
| 08.6.3-004 | CRD 的 schema 校验怎么写? | 进阶 | ★★★★ |
| 08.6.3-005 | Status 子资源与 Conditions 怎么用? | 进阶 | ★★★★ |
| 08.6.3-006 | kubebuilder 与 operator-sdk 怎么选? | 基础 | ★★★ |
| 08.6.3-007 | Operator 如何处理 finalizer? | 进阶 | ★★★★ |
| 08.6.3-008 | Operator 如何做乐观锁与并发控制? | 高级 | ★★★ |
| 08.6.3-009 | 为什么需要 Prometheus Operator? | 基础 | ★★★★ |
| 08.6.3-010 | CRD 版本演进与 conversion webhook? | 高级 | ★★★ |
08.6.3-001 CRD 是什么?解决什么问题?
一句话结论
CRD(CustomResourceDefinition)让用户在 K8s 里定义自定义资源类型(如 MySQL、Redis、Prometheus),把应用 declarative 地描述为 K8s 对象,由 Operator 监听并管理。
概念解释
- CRD:定义新的资源类型(kind)。
- CR(CustomResource):CRD 的实例。
- 例子:Prometheus Operator 定义
Prometheus、ServiceMonitor等 CRD。 - 价值:把领域知识(如数据库主从切换)编码进 K8s API。
原理流程
- 应用 CRD 到集群,apiserver 注册新资源类型。
- 用户创建 CR(实例)。
- Operator 监听 CR 变化,执行 reconciliation。
代码 / 示例
apiVersion: apiextensions.k8s.io/v1
kind: CustomResourceDefinition
metadata:
name: mysqls.example.com
spec:
group: example.com
names:
kind: MySQL
plural: mysqls
scope: Namespaced
versions:
- name: v1
served: true
storage: true
schema:
openAPIV3Schema:
type: object
properties:
spec:
type: object
properties:
version:
type: string
replicas:
type: integer
常见误区
- 误区:CRD 就是一个配置文件;正解:CRD 注册后,kubectl 可以像操作 Deployment 一样操作
kubectl get mysqls。 - 误区:CRD 创建后 Operator 自动工作;正解:CRD 只是定义类型,必须部署 Operator 监听并处理 CR。
追问
- Q:CRD 与 ConfigMap 区别? A:CRD 有 schema 校验、版本化、API 级别操作(watch);ConfigMap 只是键值存储。
- Q:CRD 有 API 分组? A:CRD 的 group 决定 API 路径(如 mysqls.example.com),同 group 下可多个 kind。
08.6.3-002 Operator 模式是什么?
一句话结论
Operator 是把运维人员的领域知识(部署、升级、备份、故障恢复)编码成 K8s controller,监听自定义资源并自动执行运维操作,实现"软件自治"。
概念解释
- 控制循环:watch CR -> reconcile -> 调 K8s API 创建/更新资源。
- 领域知识:如数据库主从切换、Redis 哨兵、Kafka 重平衡。
- 目标:把人工运维变成自动化循环。
原理流程
- Operator 启动,watch CR 与相关资源。
- CR 变化入队。
- Reconcile 读 CR,对比实际状态与期望状态。
- 执行操作让实际状态接近期望状态。
代码 / 示例
用户创建:
MySQL CR: replicas=3
Operator 做:
1. 创建 StatefulSet replicas=3
2. 创建 Service
3. 配置主从复制
4. 更新 Status
常见误区
- 误区:Operator 就是 Helm Chart;正解:Helm 只渲染静态资源,Operator 能动态决策(如主从切换、自动扩容)。
- 误区:Operator 只部署应用;正解:Operator 持续管理应用生命周期,包括升级、备份、故障恢复。
追问
- Q:Operator 与 Deployment 控制器区别? A:Deployment 控制器是 K8s 内建的通用控制器;Operator 是领域特定的控制器,管理自定义资源。
- Q:常见 Operator? A:Prometheus Operator、cert-manager、Ingress Nginx Operator、Strimzi(Kafka)、CloudNativePG(PostgreSQL)。
08.6.3-003 Reconcile 循环是怎么工作的?
一句话结论
Reconcile 是一个 func(ctx, req) Result 函数,每次资源变化时被调用:读 CR,对比实际状态与期望状态,执行操作让两者一致,返回是否需要重试。
概念解释
- Reconcile:核心回调函数。
- queue:资源变化入队,worker 取出执行 Reconcile。
- Result.Requeue:是否需要隔一段时间重试。
- 幂等:Reconcile 必须幂等,重复调用结果一致。
原理流程
- Watcher 监听到 CR 变化。
- 入队(namespace/name)。
- worker 取出,调用 Reconcile。
- Reconcile 读 CR,查实际资源,对比,调 API。
- 返回 Result(是否 Requeue)。
代码 / 示例
func (r *MySQLReconciler) Reconcile(ctx context.Context, req ctrl.Request) (ctrl.Result, error) {
var mysql examplecom.MySQL
if err := r.Get(ctx, req.NamespacedName, &mysql); err != nil {
return ctrl.Result{}, client.IgnoreNotFound(err)
}
// 对比实际状态,创建/更新 StatefulSet、Service 等
if err := r.reconcileStatefulSet(ctx, &mysql); err != nil {
return ctrl.Result{Requeue: true}, err
}
return ctrl.Result{RequeueAfter: 30 * time.Second}, nil
}
常见误区
- 误区:Reconcile 只在 CR 创建时调用;正解:CR 更新、子资源变化、定时 Requeue 都会触发。
- 误区:Reconcile 必须是同步长操作;正解:长操作(如数据库备份)应异步执行,Reconcile 快速返回,避免阻塞 queue。
追问
- Q:如何保证幂等? A:每次 Reconcile 都读当前状态,按期望状态创建/更新,不依赖内存中的临时状态。
- Q:Reconcile 失败怎么办? A:返回 error,controller 按指数退避重试;非关键错误返回 RequeueAfter。
08.6.3-004 CRD 的 schema 校验怎么写?
一句话结论
CRD 用 openAPIV3Schema 定义字段类型、必填、枚举、范围,apiserver 在写入时自动校验,避免非法 CR 进入 etcd。
概念解释
- type:string/integer/boolean/object/array。
- properties:object 的字段。
- required:必填字段。
- enum:枚举值。
- maximum/minimum:数值范围。
- x-kubernetes-preserve-unknown-fields:保留未定义字段。
原理流程
- 用户创建 CR。
- apiserver 按 CRD schema 校验。
- 不通过则拒绝,返回 422。
- 通过则写入 etcd。
代码 / 示例
schema:
openAPIV3Schema:
type: object
required: ["spec"]
properties:
spec:
type: object
required: ["version"]
properties:
version:
type: string
enum: ["8.0", "8.4"]
replicas:
type: integer
minimum: 1
maximum: 5
常见误区
- 误区:schema 只写类型就够了;正解:必填、枚举、范围都要写,否则用户能填任意值。
- 误区:不写 schema 也能跑;正解:v1 CRD 必须有 schema,否则 apiserver 拒绝。
追问
- Q:x-kubernetes-preserve-unknown-fields 用在哪? A:字段不确定时(如让用户透传 annotations),允许未定义字段。
- Q:如何做字段间校验? A:schema 不能做跨字段校验,用 validating webhook。
08.6.3-005 Status 子资源与 Conditions 怎么用?
一句话结论
CRD 的 status 子资源由 Operator 更新,记录当前状态(如 Available、Replicas、Conditions);用户用 kubectl get mysql -o yaml 查看 status,不需要看 Operator 日志。
概念解释
- status:CR 的状态字段,由 controller 写。
- Conditions:标准状态列表(Ready、Failed)。
- subresource:status 是子资源,用户不能直接 update status。
- observedGeneration:记录最近 reconcile 的 generation。
原理流程
- 用户创建 CR,只写 spec。
- Operator reconcile 后更新 status。
- 用户通过
kubectl get或 status 子资源查看。
代码 / 示例
status:
observedGeneration: 2
replicas: 3
readyReplicas: 3
conditions:
- type: Ready
status: "True"
reason: "AllReplicasReady"
message: "3/3 replicas ready"
lastTransitionTime: "2026-11-20T10:00:00Z"
常见误区
- 误区:用户可以直接改 status;正解:status 是子资源,普通 update 只改 spec,改 status 要用
/status子资源。 - 误区:status 写得越细越好;正解:status 只写用户关心的状态,内部细节放日志。
追问
- Q:Conditions 标准格式? A:type/status/reason/message/lastTransitionTime,status 为 True/False/Unknown。
- Q:如何触发 status 更新? A:controller 调
r.Status().Update(ctx, &mysql)。
08.6.3-006 kubebuilder 与 operator-sdk 怎么选?
一句话结论
kubebuilder 是基础框架(基于 controller-runtime),operator-sdk 是在 kubebuilder 之上加了 Ansible/Helm 语言与额外工具;Go Operator 用 kubebuilder 即可。
概念解释
- kubebuilder:Go operator 框架,提供脚手架、controller-runtime、webhook 工具。
- operator-sdk:早期支持 Go/Ansible/Helm 三种语言,现在 Go 后端已基于 kubebuilder。
- controller-runtime:核心库,提供 client、watch、reconcile、webhook。
原理流程
kubebuilder init初始化项目。kubebuilder create api创建 CRD 与 controller。- 写 Reconcile 逻辑。
make deploy部署。
代码 / 示例
kubebuilder init --domain example.com --repo github.com/me/mysql-operator
kubebuilder create api --group example --version v1 --kind MySQL
常见误区
- 误区:operator-sdk 比 kubebuilder 高级;正解:Go operator 两者底层都是 controller-runtime,kubebuilder 是主流。
- 误区:Ansible/Helm Operator 适合复杂场景;正解:Ansible/Helm Operator 适合简单应用,复杂领域逻辑还是 Go 写。
追问
- Q:为什么用 controller-runtime? A:封装了 client、cache、watch、webhook,不用手写 client-go 细节。
- Q:operator-sdk 还在维护吗? A:继续维护,但 Go 部分与 kubebuilder 对齐。
08.6.3-007 Operator 如何处理 finalizer?
一句话结论
finalizer 是 CR 上的删除钩子:CR 被删除时,apiserver 先把 metadata.deletionTimestamp 设上,Operator 执行清理(删云资源、发通知),清理完再删除 finalizer,CR 才真正删除。
概念解释
- finalizer:metadata.finalizers 列表,如
example.com/finalizer。 - 删除流程:用户 delete -> apiserver 设 deletionTimestamp -> 不立即删 -> 等 finalizer 清空 -> 真正删除。
- 用途:删除前清理外部资源(云盘、负载均衡、DNS)。
原理流程
- 用户创建 CR,Operator 加 finalizer。
- 用户 delete CR,apiserver 设 deletionTimestamp。
- Reconcile 发现 deletionTimestamp 非空,执行清理。
- 清理完,从 finalizers 移除自己。
- apiserver 看到 finalizers 为空,真正删除 CR。
代码 / 示例
if !mysql.DeletionTimestamp.IsZero() {
// 正在删除
if containsString(mysql.Finalizers, finalizerName) {
// 清理外部资源
if err := r.cleanupExternal(ctx, &mysql); err != nil {
return ctrl.Result{}, err
}
// 移除 finalizer
mysql.Finalizers = removeString(mysql.Finalizers, finalizerName)
r.Update(ctx, &mysql)
}
return ctrl.Result{}, nil
}
// 创建时加 finalizer
if !containsString(mysql.Finalizers, finalizerName) {
mysql.Finalizers = append(mysql.Finalizers, finalizerName)
r.Update(ctx, &mysql)
}
常见误区
- 误区:CR 删除后 finalizer 自动清;正解:Operator 必须主动移除 finalizer,否则 CR 永远卡在 Terminating。
- 误区:finalizer 失败不影响;正解:清理失败 CR 一直 Terminating,要记录日志并告警。
追问
- Q:如何强制删除卡死的 CR? A:手动编辑 CR 移除 finalizer(危险,跳过清理),或修复 Operator 让它清理。
- Q:finalizer 与 ownerReferences 区别? A:ownerReferences 自动删子资源;finalizer 用于外部资源清理。
08.6.3-008 Operator 如何做乐观锁与并发控制?
一句话结论
K8s 资源用 metadata.resourceVersion 做乐观锁:update 时带 resourceVersion,apiserver 校验是否与当前一致,不一致则冲突(409),controller 重新读再重试。
概念解释
- resourceVersion:每次资源更新递增,apiserver 用它做乐观锁。
- conflict:update 时 resourceVersion 不匹配返回 409。
- controller 模式:Reconcile 重新读最新资源,再尝试 update。
原理流程
- Reconcile 读 CR,拿到 resourceVersion。
- 修改后 update,带 resourceVersion。
- apiserver 校验:如果期间别人改过,resourceVersion 变了,返回 409。
- Reconcile 重新入队,下一轮重试。
代码 / 示例
if err := r.Update(ctx, &mysql); err != nil {
var apiErr apierrors.APIStatus
if errors.As(err, &apiErr) && apiErr.Status().Code == 409 {
return ctrl.Result{Requeue: true}, nil // 冲突,重试
}
return ctrl.Result{}, err
}
常见误区
- 误区:controller 加分布式锁;正解:K8s 用乐观锁,controller 不锁,冲突就重试。
- 误区:每个 controller 实例处理所有 CR;正解:controller 可以多副本跑,但 leader election 保证只有一个副本在 reconcile。
追问
- Q:leader election 怎么工作? A:controller 多副本时,用 Lease 资源选主,只有主副本 reconcile,其他副本 standby。
- Q:为什么不用互斥锁? A:乐观锁 + 重试是 K8s 模式,简单可靠,避免锁导致死锁。
08.6.3-009 为什么需要 Prometheus Operator?
一句话结论
Prometheus Operator 把 Prometheus 实例、告警规则、采集目标(ServiceMonitor)都抽象成 CRD,让用户用声明式 YAML 管理监控,而不是手写 Prometheus 配置文件。
概念解释
- Prometheus CR:定义 Prometheus 实例(副本、版本、存储)。
- ServiceMonitor CR:定义如何采集某个 Service 的指标。
- Alertmanager CR:定义 Alertmanager 集群。
- PrometheusRule CR:定义告警规则。
原理流程
- 用户创建 ServiceMonitor。
- Operator 生成 Prometheus 配置。
- Prometheus 按配置采集目标。
代码 / 示例
apiVersion: monitoring.coreos.com/v1
kind: ServiceMonitor
metadata:
name: myapp
spec:
selector:
matchLabels:
app: myapp
endpoints:
- port: http
interval: 30s
常见误区
- 误区:Prometheus Operator 替代 Prometheus;正解:它管理 Prometheus 实例,本身不存储指标。
- 误区:ServiceMonitor 自动发现所有 Service;正解:要按 selector 匹配 labels,未匹配的不采集。
追问
- Q:PodMonitor 是什么? A:类似 ServiceMonitor,但直接按 Pod selector 采集,不需要 Service。
- Q:Prometheus Operator 怎么更新配置? A:Operator 生成配置写 Secret,Prometheus 自动 reload。
08.6.3-010 CRD 版本演进与 conversion webhook?
一句话结论
CRD 多版本并存时,旧版本存储、新版本服务外部请求;conversion webhook 在版本间转换,让用户用 v1 读写但存储为 v1beta1,实现平滑升级。
概念解释
- storage version:实际存储到 etcd 的版本(唯一)。
- served versions:apiserver 对外提供的版本(可多个)。
- conversion webhook:请求版本与存储版本不同时,调用 webhook 转换。
原理流程
- 集群存储为 v1。
- 用户用 v1beta1 读。
- apiserver 调 conversion webhook 把 v1 转成 v1beta1。
- 用户写 v1beta1,webhook 转回 v1 存储。
代码 / 示例
spec:
versions:
- name: v1
served: true
storage: true
- name: v1beta1
served: true
storage: false
conversion:
strategy: Webhook
webhook:
clientConfig:
url: https://webhook:8080/convert
常见误区
- 误区:CRD 升级后旧 CR 自动迁移;正解:需要 conversion webhook,或一次性写迁移脚本。
- 误区:可以同时存多个版本;正解:etcd 只存一个 storage version,其他版本靠 conversion。
追问
- Q:如何废弃旧版本? A:先让所有用户切到新版本,再把旧版本 served 设为 false,最后移除。
- Q:conversion webhook 挂了怎么办? A:影响所有 CRD 操作,必须高可用部署并监控。
待整理清单
- [ ] Operator 与 leader election
- [ ] kubebuilder webhook(validating/mutating)
- [ ] Operator 与 LeaderElection
- [ ] Operator 最佳实践(日志、指标、panic recovery)