罗罗编程学习记录
本页内容 展开查看

08.6.3 CRD 与 Operator 开发

所属:全栈开发面试题库 / 08 云原生与 DevOps / 08.6 Helm 与 Operator

覆盖范围

  • CRD 定义与 schema 校验
  • Operator 模式与 reconciliation 循环
  • controller-runtime、kubebuilder、operator-sdk
  • Status 子资源与条件
  • 常用 Operator(Prometheus Operator、Ingress Nginx、 cert-manager)

高频题速览

编号 题目 难度 频率
08.6.3-001 CRD 是什么?解决什么问题? 基础 ★★★★★
08.6.3-002 Operator 模式是什么? 进阶 ★★★★★
08.6.3-003 Reconcile 循环是怎么工作的? 进阶 ★★★★★
08.6.3-004 CRD 的 schema 校验怎么写? 进阶 ★★★★
08.6.3-005 Status 子资源与 Conditions 怎么用? 进阶 ★★★★
08.6.3-006 kubebuilder 与 operator-sdk 怎么选? 基础 ★★★
08.6.3-007 Operator 如何处理 finalizer? 进阶 ★★★★
08.6.3-008 Operator 如何做乐观锁与并发控制? 高级 ★★★
08.6.3-009 为什么需要 Prometheus Operator? 基础 ★★★★
08.6.3-010 CRD 版本演进与 conversion webhook? 高级 ★★★

08.6.3-001 CRD 是什么?解决什么问题?

一句话结论

CRD(CustomResourceDefinition)让用户在 K8s 里定义自定义资源类型(如 MySQL、Redis、Prometheus),把应用 declarative 地描述为 K8s 对象,由 Operator 监听并管理。

概念解释

  • CRD:定义新的资源类型(kind)。
  • CR(CustomResource):CRD 的实例。
  • 例子:Prometheus Operator 定义 Prometheus、ServiceMonitor 等 CRD。
  • 价值:把领域知识(如数据库主从切换)编码进 K8s API。

原理流程

  1. 应用 CRD 到集群,apiserver 注册新资源类型。
  2. 用户创建 CR(实例)。
  3. Operator 监听 CR 变化,执行 reconciliation。

代码 / 示例

apiVersion: apiextensions.k8s.io/v1
kind: CustomResourceDefinition
metadata:
  name: mysqls.example.com
spec:
  group: example.com
  names:
    kind: MySQL
    plural: mysqls
  scope: Namespaced
  versions:
    - name: v1
      served: true
      storage: true
      schema:
        openAPIV3Schema:
          type: object
          properties:
            spec:
              type: object
              properties:
                version:
                  type: string
                replicas:
                  type: integer

常见误区

  • 误区:CRD 就是一个配置文件;正解:CRD 注册后,kubectl 可以像操作 Deployment 一样操作 kubectl get mysqls。
  • 误区:CRD 创建后 Operator 自动工作;正解:CRD 只是定义类型,必须部署 Operator 监听并处理 CR。

追问

  • Q:CRD 与 ConfigMap 区别? A:CRD 有 schema 校验、版本化、API 级别操作(watch);ConfigMap 只是键值存储。
  • Q:CRD 有 API 分组? A:CRD 的 group 决定 API 路径(如 mysqls.example.com),同 group 下可多个 kind。

08.6.3-002 Operator 模式是什么?

一句话结论

Operator 是把运维人员的领域知识(部署、升级、备份、故障恢复)编码成 K8s controller,监听自定义资源并自动执行运维操作,实现"软件自治"。

概念解释

  • 控制循环:watch CR -> reconcile -> 调 K8s API 创建/更新资源。
  • 领域知识:如数据库主从切换、Redis 哨兵、Kafka 重平衡。
  • 目标:把人工运维变成自动化循环。

原理流程

  1. Operator 启动,watch CR 与相关资源。
  2. CR 变化入队。
  3. Reconcile 读 CR,对比实际状态与期望状态。
  4. 执行操作让实际状态接近期望状态。

代码 / 示例

用户创建:
  MySQL CR: replicas=3

Operator 做:
  1. 创建 StatefulSet replicas=3
  2. 创建 Service
  3. 配置主从复制
  4. 更新 Status

常见误区

  • 误区:Operator 就是 Helm Chart;正解:Helm 只渲染静态资源,Operator 能动态决策(如主从切换、自动扩容)。
  • 误区:Operator 只部署应用;正解:Operator 持续管理应用生命周期,包括升级、备份、故障恢复。

追问

  • Q:Operator 与 Deployment 控制器区别? A:Deployment 控制器是 K8s 内建的通用控制器;Operator 是领域特定的控制器,管理自定义资源。
  • Q:常见 Operator? A:Prometheus Operator、cert-manager、Ingress Nginx Operator、Strimzi(Kafka)、CloudNativePG(PostgreSQL)。

08.6.3-003 Reconcile 循环是怎么工作的?

一句话结论

Reconcile 是一个 func(ctx, req) Result 函数,每次资源变化时被调用:读 CR,对比实际状态与期望状态,执行操作让两者一致,返回是否需要重试。

概念解释

  • Reconcile:核心回调函数。
  • queue:资源变化入队,worker 取出执行 Reconcile。
  • Result.Requeue:是否需要隔一段时间重试。
  • 幂等:Reconcile 必须幂等,重复调用结果一致。

原理流程

  1. Watcher 监听到 CR 变化。
  2. 入队(namespace/name)。
  3. worker 取出,调用 Reconcile。
  4. Reconcile 读 CR,查实际资源,对比,调 API。
  5. 返回 Result(是否 Requeue)。

代码 / 示例

func (r *MySQLReconciler) Reconcile(ctx context.Context, req ctrl.Request) (ctrl.Result, error) {
    var mysql examplecom.MySQL
    if err := r.Get(ctx, req.NamespacedName, &mysql); err != nil {
        return ctrl.Result{}, client.IgnoreNotFound(err)
    }
    // 对比实际状态,创建/更新 StatefulSet、Service 等
    if err := r.reconcileStatefulSet(ctx, &mysql); err != nil {
        return ctrl.Result{Requeue: true}, err
    }
    return ctrl.Result{RequeueAfter: 30 * time.Second}, nil
}

常见误区

  • 误区:Reconcile 只在 CR 创建时调用;正解:CR 更新、子资源变化、定时 Requeue 都会触发。
  • 误区:Reconcile 必须是同步长操作;正解:长操作(如数据库备份)应异步执行,Reconcile 快速返回,避免阻塞 queue。

追问

  • Q:如何保证幂等? A:每次 Reconcile 都读当前状态,按期望状态创建/更新,不依赖内存中的临时状态。
  • Q:Reconcile 失败怎么办? A:返回 error,controller 按指数退避重试;非关键错误返回 RequeueAfter。

08.6.3-004 CRD 的 schema 校验怎么写?

一句话结论

CRD 用 openAPIV3Schema 定义字段类型、必填、枚举、范围,apiserver 在写入时自动校验,避免非法 CR 进入 etcd。

概念解释

  • type:string/integer/boolean/object/array。
  • properties:object 的字段。
  • required:必填字段。
  • enum:枚举值。
  • maximum/minimum:数值范围。
  • x-kubernetes-preserve-unknown-fields:保留未定义字段。

原理流程

  1. 用户创建 CR。
  2. apiserver 按 CRD schema 校验。
  3. 不通过则拒绝,返回 422。
  4. 通过则写入 etcd。

代码 / 示例

schema:
  openAPIV3Schema:
    type: object
    required: ["spec"]
    properties:
      spec:
        type: object
        required: ["version"]
        properties:
          version:
            type: string
            enum: ["8.0", "8.4"]
          replicas:
            type: integer
            minimum: 1
            maximum: 5

常见误区

  • 误区:schema 只写类型就够了;正解:必填、枚举、范围都要写,否则用户能填任意值。
  • 误区:不写 schema 也能跑;正解:v1 CRD 必须有 schema,否则 apiserver 拒绝。

追问

  • Q:x-kubernetes-preserve-unknown-fields 用在哪? A:字段不确定时(如让用户透传 annotations),允许未定义字段。
  • Q:如何做字段间校验? A:schema 不能做跨字段校验,用 validating webhook。

08.6.3-005 Status 子资源与 Conditions 怎么用?

一句话结论

CRD 的 status 子资源由 Operator 更新,记录当前状态(如 Available、Replicas、Conditions);用户用 kubectl get mysql -o yaml 查看 status,不需要看 Operator 日志。

概念解释

  • status:CR 的状态字段,由 controller 写。
  • Conditions:标准状态列表(Ready、Failed)。
  • subresource:status 是子资源,用户不能直接 update status。
  • observedGeneration:记录最近 reconcile 的 generation。

原理流程

  1. 用户创建 CR,只写 spec。
  2. Operator reconcile 后更新 status。
  3. 用户通过 kubectl get 或 status 子资源查看。

代码 / 示例

status:
  observedGeneration: 2
  replicas: 3
  readyReplicas: 3
  conditions:
    - type: Ready
      status: "True"
      reason: "AllReplicasReady"
      message: "3/3 replicas ready"
      lastTransitionTime: "2026-11-20T10:00:00Z"

常见误区

  • 误区:用户可以直接改 status;正解:status 是子资源,普通 update 只改 spec,改 status 要用 /status 子资源。
  • 误区:status 写得越细越好;正解:status 只写用户关心的状态,内部细节放日志。

追问

  • Q:Conditions 标准格式? A:type/status/reason/message/lastTransitionTime,status 为 True/False/Unknown。
  • Q:如何触发 status 更新? A:controller 调 r.Status().Update(ctx, &mysql)。

08.6.3-006 kubebuilder 与 operator-sdk 怎么选?

一句话结论

kubebuilder 是基础框架(基于 controller-runtime),operator-sdk 是在 kubebuilder 之上加了 Ansible/Helm 语言与额外工具;Go Operator 用 kubebuilder 即可。

概念解释

  • kubebuilder:Go operator 框架,提供脚手架、controller-runtime、webhook 工具。
  • operator-sdk:早期支持 Go/Ansible/Helm 三种语言,现在 Go 后端已基于 kubebuilder。
  • controller-runtime:核心库,提供 client、watch、reconcile、webhook。

原理流程

  1. kubebuilder init 初始化项目。
  2. kubebuilder create api 创建 CRD 与 controller。
  3. 写 Reconcile 逻辑。
  4. make deploy 部署。

代码 / 示例

kubebuilder init --domain example.com --repo github.com/me/mysql-operator
kubebuilder create api --group example --version v1 --kind MySQL

常见误区

  • 误区:operator-sdk 比 kubebuilder 高级;正解:Go operator 两者底层都是 controller-runtime,kubebuilder 是主流。
  • 误区:Ansible/Helm Operator 适合复杂场景;正解:Ansible/Helm Operator 适合简单应用,复杂领域逻辑还是 Go 写。

追问

  • Q:为什么用 controller-runtime? A:封装了 client、cache、watch、webhook,不用手写 client-go 细节。
  • Q:operator-sdk 还在维护吗? A:继续维护,但 Go 部分与 kubebuilder 对齐。

08.6.3-007 Operator 如何处理 finalizer?

一句话结论

finalizer 是 CR 上的删除钩子:CR 被删除时,apiserver 先把 metadata.deletionTimestamp 设上,Operator 执行清理(删云资源、发通知),清理完再删除 finalizer,CR 才真正删除。

概念解释

  • finalizer:metadata.finalizers 列表,如 example.com/finalizer。
  • 删除流程:用户 delete -> apiserver 设 deletionTimestamp -> 不立即删 -> 等 finalizer 清空 -> 真正删除。
  • 用途:删除前清理外部资源(云盘、负载均衡、DNS)。

原理流程

  1. 用户创建 CR,Operator 加 finalizer。
  2. 用户 delete CR,apiserver 设 deletionTimestamp。
  3. Reconcile 发现 deletionTimestamp 非空,执行清理。
  4. 清理完,从 finalizers 移除自己。
  5. apiserver 看到 finalizers 为空,真正删除 CR。

代码 / 示例

if !mysql.DeletionTimestamp.IsZero() {
    // 正在删除
    if containsString(mysql.Finalizers, finalizerName) {
        // 清理外部资源
        if err := r.cleanupExternal(ctx, &mysql); err != nil {
            return ctrl.Result{}, err
        }
        // 移除 finalizer
        mysql.Finalizers = removeString(mysql.Finalizers, finalizerName)
        r.Update(ctx, &mysql)
    }
    return ctrl.Result{}, nil
}
// 创建时加 finalizer
if !containsString(mysql.Finalizers, finalizerName) {
    mysql.Finalizers = append(mysql.Finalizers, finalizerName)
    r.Update(ctx, &mysql)
}

常见误区

  • 误区:CR 删除后 finalizer 自动清;正解:Operator 必须主动移除 finalizer,否则 CR 永远卡在 Terminating。
  • 误区:finalizer 失败不影响;正解:清理失败 CR 一直 Terminating,要记录日志并告警。

追问

  • Q:如何强制删除卡死的 CR? A:手动编辑 CR 移除 finalizer(危险,跳过清理),或修复 Operator 让它清理。
  • Q:finalizer 与 ownerReferences 区别? A:ownerReferences 自动删子资源;finalizer 用于外部资源清理。

08.6.3-008 Operator 如何做乐观锁与并发控制?

一句话结论

K8s 资源用 metadata.resourceVersion 做乐观锁:update 时带 resourceVersion,apiserver 校验是否与当前一致,不一致则冲突(409),controller 重新读再重试。

概念解释

  • resourceVersion:每次资源更新递增,apiserver 用它做乐观锁。
  • conflict:update 时 resourceVersion 不匹配返回 409。
  • controller 模式:Reconcile 重新读最新资源,再尝试 update。

原理流程

  1. Reconcile 读 CR,拿到 resourceVersion。
  2. 修改后 update,带 resourceVersion。
  3. apiserver 校验:如果期间别人改过,resourceVersion 变了,返回 409。
  4. Reconcile 重新入队,下一轮重试。

代码 / 示例

if err := r.Update(ctx, &mysql); err != nil {
    var apiErr apierrors.APIStatus
    if errors.As(err, &apiErr) && apiErr.Status().Code == 409 {
        return ctrl.Result{Requeue: true}, nil // 冲突,重试
    }
    return ctrl.Result{}, err
}

常见误区

  • 误区:controller 加分布式锁;正解:K8s 用乐观锁,controller 不锁,冲突就重试。
  • 误区:每个 controller 实例处理所有 CR;正解:controller 可以多副本跑,但 leader election 保证只有一个副本在 reconcile。

追问

  • Q:leader election 怎么工作? A:controller 多副本时,用 Lease 资源选主,只有主副本 reconcile,其他副本 standby。
  • Q:为什么不用互斥锁? A:乐观锁 + 重试是 K8s 模式,简单可靠,避免锁导致死锁。

08.6.3-009 为什么需要 Prometheus Operator?

一句话结论

Prometheus Operator 把 Prometheus 实例、告警规则、采集目标(ServiceMonitor)都抽象成 CRD,让用户用声明式 YAML 管理监控,而不是手写 Prometheus 配置文件。

概念解释

  • Prometheus CR:定义 Prometheus 实例(副本、版本、存储)。
  • ServiceMonitor CR:定义如何采集某个 Service 的指标。
  • Alertmanager CR:定义 Alertmanager 集群。
  • PrometheusRule CR:定义告警规则。

原理流程

  1. 用户创建 ServiceMonitor。
  2. Operator 生成 Prometheus 配置。
  3. Prometheus 按配置采集目标。

代码 / 示例

apiVersion: monitoring.coreos.com/v1
kind: ServiceMonitor
metadata:
  name: myapp
spec:
  selector:
    matchLabels:
      app: myapp
  endpoints:
    - port: http
      interval: 30s

常见误区

  • 误区:Prometheus Operator 替代 Prometheus;正解:它管理 Prometheus 实例,本身不存储指标。
  • 误区:ServiceMonitor 自动发现所有 Service;正解:要按 selector 匹配 labels,未匹配的不采集。

追问

  • Q:PodMonitor 是什么? A:类似 ServiceMonitor,但直接按 Pod selector 采集,不需要 Service。
  • Q:Prometheus Operator 怎么更新配置? A:Operator 生成配置写 Secret,Prometheus 自动 reload。

08.6.3-010 CRD 版本演进与 conversion webhook?

一句话结论

CRD 多版本并存时,旧版本存储、新版本服务外部请求;conversion webhook 在版本间转换,让用户用 v1 读写但存储为 v1beta1,实现平滑升级。

概念解释

  • storage version:实际存储到 etcd 的版本(唯一)。
  • served versions:apiserver 对外提供的版本(可多个)。
  • conversion webhook:请求版本与存储版本不同时,调用 webhook 转换。

原理流程

  1. 集群存储为 v1。
  2. 用户用 v1beta1 读。
  3. apiserver 调 conversion webhook 把 v1 转成 v1beta1。
  4. 用户写 v1beta1,webhook 转回 v1 存储。

代码 / 示例

spec:
  versions:
    - name: v1
      served: true
      storage: true
    - name: v1beta1
      served: true
      storage: false
  conversion:
    strategy: Webhook
    webhook:
      clientConfig:
        url: https://webhook:8080/convert

常见误区

  • 误区:CRD 升级后旧 CR 自动迁移;正解:需要 conversion webhook,或一次性写迁移脚本。
  • 误区:可以同时存多个版本;正解:etcd 只存一个 storage version,其他版本靠 conversion。

追问

  • Q:如何废弃旧版本? A:先让所有用户切到新版本,再把旧版本 served 设为 false,最后移除。
  • Q:conversion webhook 挂了怎么办? A:影响所有 CRD 操作,必须高可用部署并监控。

待整理清单

  • [ ] Operator 与 leader election
  • [ ] kubebuilder webhook(validating/mutating)
  • [ ] Operator 与 LeaderElection
  • [ ] Operator 最佳实践(日志、指标、panic recovery)