标签: CSI

  • 深入 K8s CSI 挂载陷阱排查:Multi-Attach 报错引发的 Volume 假死与拓扑感知调度死锁实战

    StatefulSet 跨节点漂移时,Pod 若长时间卡在 ContainerCreating 并伴随 Multi-Attach error for volume 报错,通常由 VolumeAttachment 对象残留和底层块存储属主未释放导致。本文给出通过非优雅节点关机(Non-Graceful Node Shutdown)容忍、清理 Finalizer 强制卸载,以及修复 WaitForFirstConsumer 拓扑感知的彻底解决方案。

    排查过程中,我们经常会遇到这种场景:某个 Node 因为内核 Panic 或网络隔离进入 NotReady 状态。此时,运行在该节点上的 StatefulSet Pod 触发驱逐(Eviction),被调度到另一个健康的 Node 上。但在新 Node 上,Pod 却迟迟无法启动。

    通过 kubectl describe pod 查看事件,必然会看到这行刺眼的报错:

    Warning  FailedAttachVolume  2m3s (x22 over 15m)  attachdetach-controller
    Multi-Attach error for volume "pvc-xxxx" Volume is already exclusively attached to one node and can't be attached to another
    

    表面上看,是底层存储(如 AWS EBS、阿里云 ESSD 或 Ceph RBD)不支持多点挂载(ReadWriteOnce)。但深究下去,这是 K8s AD Controller(Attach/Detach Controller)状态机与 CSI Driver 外部状态脱节导致的典型“假死”。

    为什么 Node 假死会导致 Volume 长时间 Multi-Attach?

    要理解这个死锁,必须清楚 K8s CSI 的挂载生命周期。不同于早期的 In-Tree 存储插件,CSI 架构下,K8s 核心组件(kube-controller-manager 中的 AD Controller)本身不直接调用云厂商 API 操作磁盘,而是通过操作一个中间态 CRD——VolumeAttachment 来传递意图。

    挂载流转如下:

    1. AD Controller 发现 Pod 调度到 Node B,创建 VolumeAttachment 对象。

    2. 部署在集群中的 csi-external-attacher 监听该对象,调用云厂商 API 将磁盘挂载到 Node B。

    3. 更新 VolumeAttachmentstatus.attached = true

    死锁是如何发生的? 当 Node A 网络中断(假死)时,kubelet 无法上报状态,Node 变为 NotReady。AD Controller 虽然知道 Pod 被驱逐,但它不敢贸然 Detach Volume。 在分布式系统中,网络分区是常态。如果 Node A 仅仅是与 APIServer 断联,但与存储后端的 I/O 链路仍然畅通,此时强制 Detach 会导致 Node A 上的文件系统损坏甚至数据彻底写花(Split-Brain)。

    因此,AD Controller 采取了极度保守的“防御性设计”:默认情况下,只有确认 Node A 被彻底从集群中删除,或者超时时间长达 6 分钟(默认 6 分钟,取决于 --attach-detach-reconcile-sync-period 等参数综合计算),它才会尝试强制清理旧的 VolumeAttachment 在此之前,底层磁盘依然牢牢绑定在 Node A 上,Node B 上的 Pod 只能无限期等待,报出 Multi-Attach

    现场破局:从暴力强拆到优雅隔离

    在 K8s v1.24 之前,运维往往只能手动下场“肉搏”。

    做法 1:暴力清理 Finalizer(不推荐,极易丢数据)

    直接定位卡住的 VolumeAttachment,强行抹除 Finalizer,欺骗 AD Controller 卸载已完成。

    # 找到对应 PVC 的 VolumeAttachment
    kubectl get volumeattachment | grep <pvc-name>
    
    # 暴力 Patch 掉 Finalizer
    kubectl patch volumeattachment <attachment-id> -p '{"metadata":{"finalizers":null}}' --type=merge
    

    致命缺陷: 如果 Node A 实际上还活着且正在写盘,强制夺走 EBS 卷挂载给 Node B,极大概率导致 XFS/Ext4 文件系统损坏(Superblock 异常)。

    做法 2:利用 Non-Graceful Node Shutdown 机制(标准最佳实践)

    自 K8s v1.24 起(v1.26 稳定),社区引入了原生的非优雅节点关机机制。当监控系统(如 Zabbix、Prometheus 结合节点检测脚本)或云服务商的健康检查确认该 Node 已经物理宕机被隔离后,我们可以给该 Node 打上特定的 Taint:

    # 确认节点物理死亡后,主动打上 out-of-service 污点
    kubectl taint nodes <node-name> node.kubernetes.io/out-of-service=nodeshutdown:NoExecute
    

    一旦节点被打上这个 Taint:

    1. kube-controller-manager 立即识别该节点不再提供服务。

    2. 强行将该节点上的 Pod 置为 Terminated

    3. 最关键的一步: 立即触发并允许 csi-external-attacher 执行强制 Detach 操作,无需等待漫长的 6 分钟超时。

    4. Pod 顺利在 Node B 重建并挂载成功。

    处理完毕且节点恢复后,移除该 Taint 即可:

    kubectl taint nodes <node-name> node.kubernetes.io/out-of-service-
    

    拓扑感知调度死锁:可用区匹配陷阱

    除了 Multi-Attach,CSI 存储另一个极易踩坑的重灾区是 存储拓扑感知(Storage Topology Awareness)

    排查过程中,如果在 Pod 事件中看到如下报错:

    Warning  FailedScheduling  58s (x3 over 2m)  default-scheduler
    0/5 nodes are available: 1 node(s) had volume node affinity conflict, 4 node(s) had taint {node-role.kubernetes.io/master: }, that the pod didn't tolerate.
    

    这明确指向了 Volume Node Affinity Conflict

    底层原因是:云盘(如 AWS EBS、阿里云云盘)通常是区域性资源(Zonal)。在 ap-northeast-1a 创建的云盘,绝不可能挂载到位于 ap-northeast-1c 的 Node 上。

    如果你的 StorageClass 配置不当,使用了默认的 Immediate 绑定模式:

    apiVersion: storage.k8s.io/v1
    kind: StorageClass
    metadata:
      name: ebs-sc-wrong
    provisioner: ebs.csi.aws.com
    volumeBindingMode: Immediate # 灾难的开端
    

    死锁链路:

    1. 开发者提交 PVC。

    2. volumeBindingMode: Immediate 触发 CSI provisioner 立即去云厂商处购买并创建一块 EBS 卷(假设随机建在了 Zone A)。

    3. 接着开发者提交 Pod 绑定该 PVC,但因为节点资源、亲和性或污点等原因,Pod 被调度器分配到了 Zone B 的 Node 上。

    4. Kubelet 尝试挂载,发现磁盘在 Zone A,节点在 Zone B。调度瘫痪。

    修复方案:开启延迟绑定(WaitForFirstConsumer) 永远不要在跨 AZ 架构中使用 Immediate。必须修改 StorageClass 强制执行延迟绑定:

    apiVersion: storage.k8s.io/v1
    kind: StorageClass
    metadata:
      name: ebs-sc-correct
    provisioner: ebs.csi.aws.com
    volumeBindingMode: WaitForFirstConsumer # 核心配置
    allowedTopologies:
    - matchLabelExpressions:
      - key: topology.ebs.csi.aws.com/zone
        values:
        - ap-northeast-1a
        - ap-northeast-1c
    

    WaitForFirstConsumer 的精妙之处在于:PVC 创建后状态会保持在 Pending,CSI 不会立即去底层创建云盘。它会等待 Pod 被创建,并等待 K8s Scheduler 完成 Pod 的调度计算(选定 Node)。CSI Controller 会读取 Node 上的拓扑标签(如 topology.kubernetes.io/zone=ap-northeast-1c),然后在与 Node 相同的可用区内精准创建云盘,从而彻底避免亲和性冲突。

    常见问题

    Q1:PV 的状态已经变成了 Released,但为什么原先的 PVC 删掉重建后,一直无法绑定该 PV? 这是因为 PV 中记录了上一个 PVC 的 ClaimRef。K8s 为了数据安全,处于 Released 状态的 PV 默认不能被新的 PVC 抢占。如果确认数据安全,可以通过 Patch 移除 PV 的 claimRef,让其回到 Available 状态:

    kubectl patch pv <pv-name> -p '{"spec":{"claimRef": null}}'
    

    Q2:Pod 启动报错 MountVolume.MountDevice failed for volume ... xfs: Filesystem has duplicate UUID,但磁盘是刚克隆的快照,怎么解决? CSI 挂载克隆快照时,若底层文件系统是 XFS,两块盘具有相同的 UUID。当 Node 上已经挂载了原盘,再挂载快照盘会因为 UUID 冲突被内核拒绝。 解决办法:在对应的 StorageClass 中添加 XFS 的 nouuid 挂载参数:

    mountOptions:
      - nouuid
    

    Q3:CSI 卷在线扩容(Volume Expansion)时,PVC 容量已经变大,但容器内使用 df -h 查看容量没变,卡在了哪里? 卷扩容分为两步:控制面扩容(Control-Plane Resize,即底层云盘容量扩大)和 节点面扩容(Node-Expand,即文件系统 Resize2fs/xfs_growfs)。 若控制面完成但容器内未变化,通常是因为 Kubelet 挂载路径下的块设备未能触发扫描。检查 StorageClass 是否配置了 allowVolumeExpansion: true,然后查看 kubelet 日志,一般会发现 FileSystemResizePending 状态,有时需要重启 Pod 才能触发针对该 Mount Point 的文件系统扩展系统调用。

  • 深入 K8S VolumeAttachment 死锁排查:Node 宕机引发的 Multi-Attach 挂载冲突与 Non-Graceful 驱逐实战

    某次处理生产环境高可用数据库集群的容灾演练故障,现象极具代表性:物理节点发生硬宕机(模拟拔电),该节点上的 StatefulSet Pod 被重新调度到新节点后,长时间卡在 ContainerCreating 状态。最终结论:在未进行 STONITH(Shoot The Other Node In The Head)确认前,直接对挂载了块存储的 Pod 执行 --force 删除是极度危险的低级操作。这会彻底打乱 K8S AD 控制器(Attach/Detach Controller)与 CSI 驱动的协同状态。正确的解法是利用 K8S 的 Non-Graceful Node Shutdown(NGNS)特性,通过 out-of-service 污点触发底层合法的 Volume 卸载。

    遇到 Pod 驱逐卡住,第一反应就是敲 kubectl delete pod xxx --force --grace-period=0,这种肌肉记忆在跑 Web 服务的无状态场景下无所谓,但在 StatefulSet + RWO(ReadWriteOnce)块存储场景下,就是在人为制造存储脑裂。

    案发现场与暴力操作的代价

    监控大盘显示某核心服务的 P99 延迟突增至超时阈值,对应的底层 Node 因为内核 Panic 处于 NotReady 状态。 排查新调度的 Pod 状态,发现报出经典的 CSI 挂载冲突错误:

    Warning  FailedAttachVolume  3m2s (x12 over 15m)  attachdetach-controller
    Multi-Attach error for volume "pvc-8f9a3b2c" Volume is already exclusively attached to one node and can't be attached to another
    

    排查过程中发现,之前的处理人员看 Pod 一直处于 Terminating,反手就是一个 --force 强删。 表面上看,Pod 从 APIServer 的 etcd 记录里消失了,并且顺利在另一台 Node 上生成了处于 Pending/ContainerCreating 的新 Pod,看似调度成功。但实际上,底层存储的控制面完全是乱套的。

    通过查看当前的 VolumeAttachment 对象,真相一目了然:

    # kubectl get volumeattachment -l "kubernetes.io/pv-name=pvc-8f9a3b2c" -o yaml
    ...
    spec:
      attacher: ebs.csi.aws.com
      nodeName: dead-node-01   <-- 依然绑定在旧的死亡节点上
      source:
        persistentVolumeName: pvc-8f9a3b2c
    status:
      attached: true           <-- CSI 认为还没有卸载
    

    为什么 K8S 会死锁?谈谈防御性编程的底线

    这个“死锁”不是 Bug,而是 K8S 存储架构在设计上的底线防御机制(Fencing)

    在 CSI(Container Storage Interface)的生命周期语义中,一个 RWO 的云盘(如 AWS EBS、阿里云 ESSD)要挂载到新节点,必须确保在旧节点上已经完全脱离。 当 Node 宕机处于 NotReady 时,K8S 的 kube-controller-manager 无法和该节点上的 kubelet 通信。AD 控制器为了防止数据损坏,会一直等待 kubelet 汇报 UnpublishVolume(卸载文件系统)完成。

    如果不强制等待会怎样? 假设 Node 并没有死,只是网络发生脑裂(Split-Brain),Node 上的业务进程仍在疯狂将 Page Cache 刷入磁盘(ext4/xfs)。如果此时 AD 控制器直接调用云厂商 API 将云盘强行卸载并挂载到新 Node 上,新旧两个 Kernel 同时对同一个 Block Device 的 Superblock 和 Journal 区域进行写操作,文件系统会在几秒钟内被彻底击穿,导致不可逆的数据损坏。

    强删 Pod (--force) 仅仅是删除了逻辑对象,并没有改变 VolumeAttachment 的物理挂载状态。CSI external-attacher 看到旧的挂载关系未解除,自然拒绝向底层 IaaS 发起新的 AttachVolume API 请求。

    破局之道:Non-Graceful Node Shutdown

    在 K8S 1.26+ 时代(或开启了相关 Feature Gate 的早期版本),处理这种硬宕机有了标准的官方姿势。

    不要去动 Pod,也不要试图手动去 kubectl edit volumeattachment 删 finalizers(这会导致 APIServer 状态与云厂商 IaaS 状态彻底脱节,后续挂载永久失败)。

    第一步:确认物理节点死亡。 通过云控制台、IPMI 或底层带外管理,确保该 Node 已经处于 Power Off 状态,或者至少其网络和存储 HBA 卡已被彻底隔离。这是所有操作的前提。

    第二步:打上 out-of-service 污点。 向 K8S 宣告该节点已物理死亡,允许绕过 kubelet 的优雅等待:

    kubectl taint nodes dead-node-01 node.kubernetes.io/out-of-service=nodeshutdown:NoExecute
    

    这个操作会触发连锁反应:

    1. Taint Controller 检测到 out-of-service 污点。

    2. 触发 Pod 的强制驱逐逻辑(无视 grace-period)。

    3. 最关键的一步:Attach/Detach Controller 捕获到该污点后,判定无需等待死亡 kubelet 的回应,直接调用 CSI 驱动的 ControllerUnpublishVolume 接口。

    4. CSI 驱动调用云厂商 IaaS API,在云底座层面强行将云盘与死机 Node 解绑。

    5. 旧的 VolumeAttachment 被清理,新 Node 上的 Pod 顺利触发 AttachVolume,业务恢复。

    待故障节点修好重新加回集群前,记得移除污点:

    kubectl taint nodes dead-node-01 node.kubernetes.io/out-of-service-
    

    排查清单:同类 Volume 挂载异常速查

    针对 StatefulSet + CSI 存储卡 ContainerCreating 的场景,请严格按照以下顺序排查:

    1. 查明 Pod 阻塞源头: 使用 kubectl describe pod 检查 Events。如果是 Multi-Attach error,说明被旧节点锁死;如果是 volume node affinity conflict,说明 StorageClass 拓扑感知(Topology)不匹配,Pod 被调度到了 PV 所在的可用区之外。

    2. 审查 VolumeAttachment 状态: 执行 kubectl get volumeattachment | grep ,查看 Attached 列的状态和绑定的 NodeName。若绑定在 NotReady 的节点上,立刻停止任何针对 Pod 的 --force 操作。

    3. 隔离与污点注入(STONITH 机制): 确认底层服务器无 IO 活动后,执行 kubectl taint nodes node.kubernetes.io/out-of-service=nodeshutdown:NoExecute 触发合法强制卸载。

    4. 校验底座 IaaS 状态(终极手段): 如果 K8S 侧显示 Attached: false 但新节点依然挂载失败,说明 CSI 控制面出现了数据不一致。需直接登录云厂商控制台(或使用 awscli/aliyun-cli),强制从 IaaS 层面 Detach 云盘,随后重建当前卡死的 VolumeAttachment 对象。

  • 深入 K8S CSI 挂载雪崩排查:Node 假死引发的 Multi-Attach 锁死与 VolumeAttachment 强制清理实战

    Node 假死时,StatefulSet 发生驱逐漂移,但底层块存储因旧节点未释放导致新节点挂载失败,陷入持续的 Multi-Attach error 死锁。本文直接给出破局方案:通过清理 VolumeAttachment 僵尸对象强制解除挂载锁,并基于 K8s 1.26+ 的 out-of-service 污点实现 Non-Graceful Node Shutdown 自愈,同时剖析 CSI external-attacher 的防脑裂流转机制。

    故障现场:Pod 永远停留在 ContainerCreating

    某次处理基础架构告警,某可用区交换机故障导致部分 K8s Worker 节点失联(状态变为 NotReady)。按照系统默认配置,大约 5 分钟后(pod-eviction-timeout),运行在故障节点上的 StatefulSet 实例被驱逐并在健康的 Node 上重新调度。

    但是,新创建的 Pod 一直卡在 ContainerCreating,通过 kubectl describe pod 查看 Events,满屏全是同一种报错:

    Warning  FailedAttachVolume  2m45s (x12 over 15m)  attachdetach-controller
    Multi-Attach error for volume "pvc-c93a8...": Volume is already exclusively attached to one node and can't be attached to another
    

    同时,底层存储 CSI Driver(以 Ceph RBD 为例,AWS EBS/阿里云云盘同理)的日志中疯狂输出:

    rpc error: code = FailedPrecondition desc = volume is published to another node
    

    很明显,新节点无法将云盘 attach 过来,因为 K8s 认为这块盘还挂载在那个“已经死掉”的旧节点上。

    为什么 CSI 驱动不会自动强制 Detach 假死节点的 Volume?

    这是排查此类问题时最常产生的疑问:既然节点已经 NotReady 且 Pod 被驱逐了,为什么 K8s 负责管理挂载的 AttachDetachController (ADC) 不直接把旧节点上的盘强制卸载(Force Detach)?

    答案是:为了绝对的数据安全(防脑裂)。

    在块存储(ReadWriteOnce 模式,通常格式化为 ext4/xfs)的场景下,如果旧节点只是网络断开(假死),而 CPU、内存和磁盘 IO 还在正常运行。如果此时 K8s 强制在 IaaS 层将这块云盘摘除并挂载给新节点,新节点的 Pod 开始写入数据,一旦旧节点网络恢复,其内核缓存中未刷盘的脏数据(Dirty Pages)会继续向磁盘 flush,立刻导致文件系统元数据损坏(Filesystem Corruption)。

    为了防御这种脑裂,CSI 引入了极其严谨的状态机。K8s 侧通过 VolumeAttachment CRD 来记录挂载状态,而非直接依赖底层云 API:

    # 查看集群中的挂载记录
    $ kubectl get volumeattachment -l "node.name=old-dead-node"
    NAME                                                                   ATTACHER                       PV           NODE            ATTACHED   AGE
    csi-24a9e4...   diskplugin.csi.alibabacloud.com   pvc-c93a...  old-dead-node   true       120d
    

    查看这个僵尸 VolumeAttachment 的详情:

    status:
      attached: true # 这里一日不变成 false,新节点的 attach 就一日不能发起
      attachmentMetadata:
        csi.storage.k8s.io/node-name: old-dead-node
    

    在旧节点恢复通信(或者被彻底销毁)之前,external-attacher Sidecar 无法确认原节点的 kubelet 是否已经安全 unmount 了文件系统,因此它绝对不会将 VolumeAttachmentattached 状态改为 false,挂载死锁由此产生。

    破局与自愈:如何安全介入清理死锁?

    方案一:手动暴力介入(适用于 K8s < 1.26)

    当明确知道旧节点已经物理宕机被彻底隔离(例如已经在云控制台强制关机),我们需要手动帮助 ADC 越过这道安全红线。

    1. 强制删除旧 Pod(如果它还处于 Terminating 状态): bash kubectl delete pod --grace-period=0 --force
    2. 强制删除旧节点残留的 VolumeAttachment: 找到对应 PV 的 VolumeAttachment 记录,直接干掉: bash kubectl delete volumeattachment csi-24a9e4...
    3. 此时,external-attacher 会监听到旧 Attachment 消失,ADC 终于允许为新节点创建新的 VolumeAttachment,挂载流程恢复,Pod 启动。

    方案二:Non-Graceful Node Shutdown (NGNS) 自动化(K8s 1.26+ 标准解法)

    手动干预违背了自动化的运维信条。K8s 1.26 正式 GA 了 Non-Graceful Node Shutdown 特性。

    当节点失联且你确认它无法恢复时(可以通过外部监控脚本或 Node 自动运维系统判定),不要去删 Pod,而是直接给这个死亡节点打上一个特定的污点:

    kubectl taint nodes old-dead-node node.kubernetes.io/out-of-service=nodeshutdown:NoExecute
    

    这个污点是内置控制器的“免死金牌”。一旦加上:

    1. Taint Manager 会立刻驱逐节点上的所有 Pod,无视普通的 finalizers。

    2. 最核心的是:AttachDetachController 看到这个污点后,会认为系统管理员已经做出了背书(节点已死),它将直接绕过 CSI 正常的优雅 Detach 流程,强制删除 VolumeAttachment 并通知云厂商底层解绑。

    存储拓扑感知(Topology Awareness)的隐藏陷阱

    在多可用区(Multi-AZ)架构下排查时,就算解决了 Multi-Attach,Pod 仍有可能一直处于 Pending,报错变成:

    1 node(s) had volume node affinity conflict.
    

    这是因为 K8s 原生集成了存储拓扑感知。CSI 驱动(例如 AWS EBS CSI Driver)在创建 PV 时,会在 PV 的 nodeAffinity 中注入可用区标签:

    # PV 的拓扑信息片段
    nodeAffinity:
      required:
        nodeSelectorTerms:
        - matchExpressions:
          - key: topology.ebs.csi.aws.com/zone
            operator: In
            values:
            - ap-southeast-1a
    

    如果旧节点在 AZ-A,而 K8s 调度器将 Pod 驱逐到了 AZ-B 的新节点上,此时跨可用区是无法挂载单 AZ 云盘的。

    防范机制:StorageClass 延迟绑定 必须确保 StorageClass 启用了 volumeBindingMode: WaitForFirstConsumer

    apiVersion: storage.k8s.io/v1
    kind: StorageClass
    metadata:
      name: ebs-sc
    provisioner: ebs.csi.aws.com
    volumeBindingMode: WaitForFirstConsumer
    allowedTopologies:
    - matchLabelExpressions:
      - key: topology.ebs.csi.aws.com/zone
        values:
        - ap-southeast-1a
        - ap-southeast-1b
    

    但对于已经创建且绑定到特定 AZ 的现存 PV,如果整个 AZ 挂了,K8s 层面无能为力。这就要求核心有状态服务(如 DB、消息队列)必须在应用层做高可用(如 Raft、多副本同步),不要指望底层块存储跨 AZ 漂移。

    常见问题

    Q1:如果不确认节点死透,直接强制删除 VolumeAttachment,具体会发生什么样的底层损坏? A:如果旧节点只是管理网断开,业务网和存储网还在工作。强删 VolumeAttachment 导致盘被挂载给新节点,此时旧节点的 ext4 的日志(Journaling)仍在向设备写入,新节点也在写入。这会造成 inode 树严重破坏,通常在 5 分钟内整个文件系统就会变成只读(Read-only file system),甚至引发内核 Panic。操作前必须确保 IaaS 层原节点已下电。

    Q2:为什么 NFS 或者 CephFS 这种网络文件系统不会发生 Multi-Attach 报错? A:NFS/CephFS 提供的是文件级访问,其 AccessMode 通常是 ReadWriteMany(RWX)。K8s 和底层存储本身就允许多个节点同时挂载(Mount)同一个共享目录,没有独占锁(Exclusive Lock)的概念,因此不受 external-attacher 单点绑定的限制。

    Q3:Local PV(本地盘)在节点宕机时,调度行为和 CSI 有什么不同? A:Local PV 与节点是强绑定的(通过严格的 NodeAffinity)。一旦本地磁盘所在的 Node 宕机,使用该 PV 的 Pod 无论如何都不会漂移到其他节点上,它会永远处于 Pending,直到原节点恢复。所以 Local PV 只能用于自身具备数据冗余复制能力的应用(如 Elasticsearch、TiKV)。

  • 深入 K8S CSI 存储雪崩排查:Immediate 模式引发的跨可用区调度死锁与 Finalizer 僵尸惨案

    排查过程中经常能遇到一种让人血压飙升的场景:业务侧跑来报障,说 StatefulSet 扩容卡住了,Pod 一直处于 Pending 状态。为了“快速恢复”,他们熟练地加上 --force --grace-period=0 强删了 Pod 和 PVC,结果不仅新 Pod 没起来,旧的 PV 全变成了 Terminating 僵尸态,底层云盘疯狂计费,CSI Provisioner 的队列被彻底塞爆。

    先抛出结论:在多可用区(Multi-AZ)集群中,StorageClass 绝对不能使用默认的 volumeBindingMode: Immediate 必须显式声明为 WaitForFirstConsumer。否则,CSI Provisioner 会在 PVC 创建瞬间盲目在一个随机可用区创建底层存储卷,一旦 K8s 调度器受限于节点资源或 Pod 反亲和性(Anti-Affinity),将 Pod 强行调度到另一个可用区,就会触发经典的 volume node affinity conflict 死锁。而无脑的强删操作,只会引发 Finalizer 锁死,导致控制面雪崩。

    案发现场:一次愚蠢的“调度冲突”与强删风暴

    某次核心中间件集群扩容,运维同学反馈新加的两个 Pod 挂死在 Pending 状态。 随手敲下 kubectl describe pod,看到了 K8s 存储排查中最眼熟的报错:

    Warning  FailedScheduling  3m2s  default-scheduler  0/50 nodes are available: 20 node(s) didn't match pod anti-affinity rules, 30 node(s) had volume node affinity conflict.
    

    这个报错的信息量极大。集群一共 50 个节点,其中 20 个节点因为业务配置了强反亲和性(requiredDuringSchedulingIgnoredDuringExecution)被过滤,剩下 30 个节点全部报 volume node affinity conflict

    去查一眼 PVC 和 PV 的状态,发现 PVC 已经是 Bound 状态了:

    $ kubectl get pvc data-kafka-3
    NAME           STATUS   VOLUME                                     CAPACITY   ACCESS MODES   STORAGECLASS   AGE
    data-kafka-3   Bound    pvc-8f9a2b3c-1234-5678-90ab-cdef12345678   500Gi      RWO            ssd-sc         15m
    

    这就是典型的“盘建好了,但 Pod 过不去”。 此时,业务研发为了自救,执行了经典的毁灭三连: kubectl delete pod kafka-3 --force kubectl delete pvc data-kafka-3 --force kubectl delete pv pvc-8f9a2b3c... --force

    结果灾难发生了:PVC 和 PV 全部卡在 Terminating。CSI Controller 疯狂刷错,external-provisioner 的 Goroutine 数量飙升,API Server 持续收到无用的 Update 请求,整个存储控制面陷入瘫痪。

    核心原理解析:为什么盘和计算节点会劈腿?

    很多半吊子对 Kubernetes 存储生命周期的认知还停留在“建 PVC -> 绑 PV -> 挂载到 Pod”的线性思维上。在 CSI(Container Storage Interface)架构下,多可用区集群的存储拓扑感知(Topology Awareness)是一件极其严谨的事。

    1. Immediate 模式的致命缺陷

    查看当时的 StorageClass 配置:

    apiVersion: storage.k8s.io/v1
    kind: StorageClass
    metadata:
      name: ssd-sc
    provisioner: ebs.csi.aws.com
    parameters:
      type: gp3
    # 致命缺失:没有定义 volumeBindingMode,默认使用了 Immediate
    

    Immediate 模式下,当 StatefulSet 创建出 PVC 时,CSI external-provisioner 会立刻调用云厂商 API 创建一块 EBS 盘。由于此时它不知道最终 Pod 会被调度到哪个节点,它只能随机(或根据默认规则)选择一个可用区(假设选了 Zone A)。 盘建好后,生成的 PV 对象里会被硬性打上 nodeAffinity

    nodeAffinity:
      required:
        nodeSelectorTerms:
        - matchExpressions:
          - key: topology.ebs.csi.aws.com/zone
            operator: In
            values:
            - ap-southeast-1a  # 盘被锁死在了 Zone A
    

    2. 调度器被两头堵死

    接下来 kube-scheduler 开始为 Pod 寻找节点。

    • Pod 自身带有反亲和性,恰好 Zone A 的节点都已经部署了同一个 StatefulSet 的其他 Pod,Zone A 全部被过滤。

    • 调度器试图把 Pod 塞进 Zone B 的节点,但在评估存储卷时,发现 PV 的 nodeAffinity 是 Zone A。

    • 最终结果:计算资源要求去 Zone B,存储资源锁死在 Zone A。死锁形成,Pod 永久 Pending

    3. 强删引发的 Finalizer 僵尸机制

    K8s 极度推崇“防御性编程”,为了防止数据丢失,设计了 Finalizer 机制。

    • 当你删除正在被 Pod(哪怕是 Pending 但已绑定的 Pod)引用的 PVC 时,kubernetes.io/pvc-protection Finalizer 会拦截删除操作。

    • 当你强制干掉 PV 时,kubernetes.io/pv-protection 会死死拦住。

    • 更要命的是,底层云盘的 Delete 请求依赖 CSI 正常通信。当人为 kubectl patch 暴力清除 Finalizer 时,K8s 里的对象没了,但云厂商那边的物理云盘变成了孤儿资源(Leaked Volume),默默消耗着高昂的云预算。

    破局与自救:如何体面地收拾残局?

    不要一上来就改 etcd 或者无脑 patch finalizer,按顺序执行以下操作:

    第一步:揪出卡死的资源并妥善释放 如果 PVC/PV 已经处于 Terminating,必须先确认底层云盘是否已经删除。如果没删,手动去云控制台删盘。确认盘没用后,再通过 Patch 清理 K8s 对象:

    # 清理 PVC Finalizer
    kubectl patch pvc data-kafka-3 -p '{"metadata":{"finalizers":null}}'
    # 清理 PV Finalizer
    kubectl patch pv pvc-8f9a2b3c-1234-5678-90ab-cdef12345678 -p '{"metadata":{"finalizers":null}}'
    

    第二步:检查是否有残留的 VolumeAttachment 有时候 PV 删了,但 CSI 挂载记录还在,会导致同名节点后续挂载一直报错 VolumeInUse

    kubectl get volumeattachment | grep pvc-8f9a2b3c
    # 如果有,同样 patch 清掉
    kubectl patch volumeattachment <name> -p '{"metadata":{"finalizers":null}}'
    

    第三步:重建 StorageClass(核心防御) StorageClass 的 volumeBindingMode 是不可变字段(Immutable),只能建新的。

    apiVersion: storage.k8s.io/v1
    kind: StorageClass
    metadata:
      name: ssd-sc-topology
    provisioner: ebs.csi.aws.com
    parameters:
      type: gp3
    volumeBindingMode: WaitForFirstConsumer # 绝对核心
    allowedTopologies: # 可选:显式限制允许创建存储的可用区
    - matchLabelExpressions:
      - key: topology.ebs.csi.aws.com/zone
        values:
        - ap-southeast-1a
        - ap-southeast-1b
    

    原理揭秘:改为 WaitForFirstConsumer 后,PVC 创建时 CSI 不会立即建盘,PVC 会处于 Pending 状态。kube-scheduler 会将 Pod 调度到合适的节点(例如 Zone B),然后将选定的节点拓扑信息传递给 CSI Provisioner,CSI 再拿着 “Zone B” 的确切坐标去调用云 API 建盘。实现了“计算在哪,存储就建在哪”的精准协同。

    排查清单:K8S 存储异常速查表

    1. 查调度模式冲突:检查 StorageClass 是否为 Immediate 且集群为多可用区。只要符合这两条,立刻改成 WaitForFirstConsumer

    2. 查 PV 拓扑亲和性kubectl get pv -o yaml,查看 nodeAffinity 中声明的 Zone,是否与 Pod 最终想要调度的 Node 所在的 Zone 完全一致。

    3. 查挂载残留对象:排查 kubectl get volumeattachments 列表中是否有长时间 Attached: true 但实际 Pod 已经销毁的僵尸记录。

    4. 查 CSI 控制平面:抓取 external-provisionerexternal-attacher 容器的日志,搜索 Failed to attach volumerate exceeded 关键字,确认是否因 API 限流导致状态不一致。

    存储无小事。在基础设施即代码的今天,任何一行缺乏底层逻辑支撑的 YAML,都有可能在深夜掀起一场毁灭性的雪崩。敬畏数据,敬畏拓扑。