标签: IOPS

  • 深入 PostgreSQL 陷阱排查:频繁更新索引列打破 HOT 机制引发的 WAL 写放大与 IOPS 耗尽实战

    排查过程中接到告警,某核心订单库主节点 IOPS 持续处于 100% 饱和状态,iowait 飙升导致 CPU Load Average 冲破 80,P99 延迟从平时的 10ms 劣化到 4000ms+。排查发现 QPS 并没有出现突增,但磁盘的写入吞吐量(Write Bandwidth)却达到了平时的十倍以上,且主要消耗在 WAL 日志写入和 Autovacuum 进程上。直接抛出结论:开发人员在 updated_at 字段上创建了毫无意义的单列 B-Tree 索引,且业务代码每次 UPDATE 必定刷新该时间戳。这一行为彻底破坏了 PostgreSQL 的 HOT(Heap-Only Tuples) 机制,导致每一次普通的数据行更新都退化为全局索引更新,叠加 Checkpoint 后的 Full Page Writes (FPW),引发了灾难级的 WAL 写放大与 MVCC 索引膨胀。删掉废柴索引并微调 fillfactor 后,IOPS 直接断崖式下降 85%。

    案发现场与指标佐证

    登陆机器第一步,先看系统 I/O 状态,iostat -x 1 的数据简直刺眼:

    Device:         rrqm/s   wrqm/s     r/s     w/s    rkB/s    wkB/s avgrq-sz avgqu-sz   await r_await w_await  svctm  %util
    nvme1n1           0.00     0.00  120.50 8540.20  1024.00 98560.00    23.00    14.50    1.68    3.50    1.65   0.11 100.00
    

    高 w/s,高 wkB/s,磁盘完全被写请求打满。

    切进数据库,看看到底是哪些表在作妖。通过查询 pg_stat_user_tables,我抓取了系统里 Update 最频繁的前 5 张表,重点观察它们的 HOT 更新率(HOT Ratio):

    SELECT relname,
           n_tup_upd,
           n_tup_hot_upd,
           ROUND((n_tup_hot_upd::numeric / NULLIF(n_tup_upd, 0)) * 100, 2) AS hot_ratio
    FROM pg_stat_user_tables
    WHERE n_tup_upd > 100000
    ORDER BY n_tup_upd DESC LIMIT 5;
    

    执行结果:

      relname   | n_tup_upd | n_tup_hot_upd | hot_ratio 
    ------------+-----------+---------------+-----------
     orders     |  85940321 |        120340 |      0.14
     users      |   4039102 |       3980120 |     98.53
     inventory  |  15039201 |      14800300 |     98.41
    

    orders 表的 HOT 更新率竟然只有可怜的 0.14%。这就意味着,这表中 99.86% 的 Update 操作,PG 内核都在老老实实地写入全套索引记录。

    我查了一下 orders 表的索引结构:除了主键和常规的状态、用户 ID 索引外,赫然躺着一个 idx_orders_updated_at。 问业务研发为什么建这个索引?答曰:“ORM 自动生成的,想着以后可能会按修改时间排序拉取数据,就先建上了。” 毫无数据访问逻辑支撑的“防御性建索引”,在 MySQL 里可能只是浪费点空间和微小的写入性能,但在 PostgreSQL 里,这简直是自杀。

    为什么打破 HOT 机制是致命的?

    PostgreSQL 的 MVCC 实现与 MySQL (InnoDB) 截然不同。InnoDB 是原地更新(In-Place Update),旧版本数据存放在 Undo Log 中;而 PG 没有独立的 Undo 表空间,它的 Update 本质上是 Delete + Insert。即标记旧元组(Tuple)为不可见,并在页(Page)中插入一个全新的元组。

    如果每次 Update 都要在所有索引树上插入新指针,这种写放大是不可接受的。因此 PG 引入了 HOT (Heap-Only Tuples) 机制。 满足 HOT 的条件极其严苛,但收益极高:

    1. 更新的字段上不能有任何索引。

    2. 当前数据页(Block)内部必须有足够的剩余空间存放新元组。

    只要满足上述条件,PG 就只会在 Heap 层面做行链更新(旧行指向新行),所有的索引结构都无需修改。

    在本次事故中:

    1. 业务线每修改一次订单状态,都会执行类似 UPDATE orders SET status = 2, updated_at = NOW() WHERE id = 100; 的语句。

    2. 因为 updated_at 存在索引,直接破坏了 HOT 条件 #1。

    3. 表的 fillfactor 是默认的 100,页面平时塞得满满当当,破坏了 HOT 条件 #2。

    蝴蝶效应开始了:

    • 写放大 X 倍: orders 表共有 6 个索引。一次单行更新,不仅要写 1 个新的 Heap 数据,还要在 6 个 B-Tree 索引中各插入 1 条新记录。

    • WAL 风暴: PG 为了保证崩溃恢复(Crash Recovery),在每次 Checkpoint 后的第一次页面修改时,会将整个 8KB 页面完整写入 WAL(即 Full Page Writes, FPW)。因为索引频繁变动,大量的数据页和 6 个索引树的页面都在被高频触碰,导致大量触发 FPW,WAL 日志生成速度高达数百 MB/s,直接榨干 SSD 的 IOPS。

    • Autovacuum 瘫痪: 索引膨胀导致 Autovacuum 清理死元组时需要扫描和清理庞大的索引树,进一步加剧了磁盘 I/O 竞争,引发恶性循环。

    破局与调优落地

    弄懂了底层逻辑,解决起来极其简单,只需要做减法。

    1. 物理超度无用索引 既然业务根本没有使用 updated_at 过滤数据的慢查询,果断 DROP INDEX CONCURRENTLY idx_orders_updated_at;。 (注意:必须加上 CONCURRENTLY 以避免锁表阻塞线上交易)。

    2. 预留页内空间,召唤 HOT 机制 对于这种极度高频 Update 的核心表,必须将页填充率(fillfactor)下调,给页内更新留出空间:

    ALTER TABLE orders SET (fillfactor = 85);
    

    注:这条命令仅对新分配的页生效。对于存量数据,我不建议在线上直接跑 VACUUM FULL,而是用 pg_repack 选个低峰期重整表结构,或者就让它随着增量数据自然过渡。

    3. WAL 压缩兜底 为了防御未来可能的类似写放大,在 postgresql.conf 中开启 WAL 压缩(PG 15+ 推荐 zstd,低版本用 on 启用 pglz):

    wal_compression = zstd
    

    开启后会消耗微量的 CPU 算力(1%-2%),但能将 FPW 造成的 WAL 日志体积压缩 60% 以上,对 I/O 瓶颈极具性价比。

    调整执行后的 10 分钟内,orders 表的 HOT Ratio 迅速攀升至 80% 以上,磁盘写入量暴跌至几兆每秒,iowait 归零,P99 延迟回归 10ms,世界清静了。

    排查清单:PostgreSQL HOT 机制与 WAL 异常速查

    如果你遇到类似的 PG 磁盘 I/O 瓶颈,请按以下 4 步排查:

    1. 查 HOT 命中率 执行本文上方的 pg_stat_user_tables 检查 SQL,如果高频更新表(n_tup_upd 大)的 hot_ratio 低于 50%,必有隐患。

    2. 查索引命中与浪费 通过 pg_stat_user_indexes 查询哪些索引从未被 Scan 过: sql SELECT indexrelname, idx_scan FROM pg_stat_user_indexes WHERE idx_scan = 0 AND schemaname = 'public'; 没有任何查询命中的索引,如果还在被高频 Update 字段牵连,立刻 Drop。

    3. 查 WAL 生成速率 在 pg_stat_bgwriter 或系统级通过监控面板查看 WAL Write 速率。如果 WAL 写入量远超实际业务数据变动量,重点排查大面积 Update 打破 HOT 引发的 FPW 风暴。

    4. 查 fillfactor 配置 执行 SELECT relname, reloptions FROM pg_class WHERE relname = '你的表名';。如果高频 Update 且无索引覆盖的表 fillfactor 还是默认的空值(即 100),建议改至 85-90 之间。

  • Etcd 集群频繁 Leader 切换雪崩:WAL fsync 阻塞引发的 Raft 心跳饿死与选主风暴排查实战

    近期排查了一个非常经典的分布式共识层故障。K8s 集群的 API Server 频繁报 context deadline exceeded,核心控制器全线 CrashLoopBackOff。底层定位到 Etcd 集群处于极度不稳定的状态,Raft Leader 疯狂切换(Flapping)。最终查明,这是一起由于共主节点磁盘 I/O 被同机其他定时任务打满,导致 Etcd WAL (Write-Ahead Log) fsync 严重超时,进而“饿死” Raft 心跳触发的选主风暴惨案。

    在分布式共识(Raft/Paxos)的工程实践中,存储 I/O 抖动是干掉集群可用性的头号杀手。遇到这种问题,调整网络参数是缘木求鱼,必须深入底层的日志复制和状态机流转机制去开刀。

    故障现场:API Server 雪崩与疯狂的 Term 暴增

    排查期间,首先接到 Prometheus 告警,K8s API Server 的 P99 延迟直接从平时的 30ms 飙升到了 8000ms 以上。查看 Etcd 集群状态,发现 etcd_server_leader_changes_seen_total 指标呈阶梯状暴增。

    直接拉取 Etcd 的运行日志,满屏的红色 Error,核心报错就两行:

    # Leader 节点疯狂抱怨心跳发送超时
    {"level":"warn","ts":"...","caller":"etcdserver/server.go:2038","msg":"failed to send out heartbeat on time (exceeded the 100ms timeout for 2.3s)","server_id":"8211f1d0f64f3269"}
    
    # 紧接着 Leader 发现自己任期落后,被迫下台
    {"level":"info","ts":"...","caller":"raft/raft.go:825","msg":"8211f1d0f64f3269 [term: 1205] received a MsgVote with higher term from 7192f1d0f64f11a2 [term: 1206]"}
    {"level":"info","ts":"...","caller":"raft/raft.go:842","msg":"8211f1d0f64f3269 became follower at term 1206"}
    

    从日志可以看出一个典型的 Raft 状态扭转过程:

    1. 当前 Leader 因为某种原因,长达 2.3 秒没有发包。

    2. Follower 节点的 election-timeout(默认 1000ms)耗尽,认为 Leader 已死。

    3. Follower 状态转为 Candidate,将当前任期(Term)+1,并向集群广播 MsgVote。

    4. 原 Leader 收到高 Term 的投票请求,瞬间认怂,StepDown 退化为 Follower。

    如此反复,集群陷入了永无止境的选主(Election Storm),导致没有任何一个节点能稳定处理外部 Client 提交的写请求(Propose)。

    原理剖析:为什么磁盘卡顿会饿死网络心跳?

    很多新人会有个疑问:磁盘 I/O 慢,大不了客户端的写请求(Put)慢一点,为什么连 Raft 节点之间的网络心跳都会发不出去?

    这就得扒一下 Etcd 底层 Raft 状态机的工程实现逻辑。在 etcd/raft 模块中,为了保证强一致性,Raft Node 处理状态机输出(Ready 结构体)的典型流程是一个同步的串行大循环:

    // Etcd Raft 核心循环的伪代码逻辑映射
    for {
        select {
        case rd := <-node.Ready():
            // 1. 将 HardState 和 Entries 写入底层 WAL 文件并强制落盘
            saveToStorage(rd.HardState, rd.Entries)
            // 注意这里的 fsync 是阻塞调用!
            wal.Fsync() 
    
            // 2. 将消息(包含 AppendEntries/心跳)发送给其他 Peer
            send(rd.Messages)
    
            // 3. 将已提交的日志应用到内存状态机(KV 存储)
            applyToStore(rd.CommittedEntries)
    
            node.Advance()
        }
    }
    

    发现致命问题了吗?WAL 落盘(wal.Fsync())和发送网络消息(send)是在同一个处理流程中的。 Raft 协议要求:日志必须先持久化到本地(保证 Crash-Safe),然后才能广播给其他节点。 如果底层磁盘 I/O 突然飙升,fsync 系统调用被内核挂起 2 秒,那么紧跟在后面的 send(rd.Messages) 就会被硬生生延迟 2 秒!

    Leader 发不出带着空 Entry 的 AppendEntries RPC(即心跳),Follower 就会准时发起叛变。

    现场缉凶:I/O 被谁吃干抹净了?

    顺着这个逻辑,直接去 Leader 宿主机上查 I/O 现场。 使用 iostat -dx 1 监控,发现系统盘(/dev/vda)的 %util 长期顶死在 100%,await 指标高达 2500ms+。

    进一步通过 iotop -o 和 ps 溯源,抓到了真凶: 宿主机上被人偷偷配了一个 Ansible 统一下发的 Cronjob,跑的是一个极度暴力的 tar -czf 日志归档脚本,且没有任何资源限制(cgroups/ionice)。这个任务瞬间榨干了云盘的 IOPS(突发型 EBS 的 Burst Balance 直接被扣光),导致同在一块盘上的 Etcd WAL 写入被内核底层 I/O 调度队列无情阻塞。

    架构避坑与防御性配置

    把这种重型 I/O 任务与对延迟极其敏感的分布式共识组件混跑,在运维界属于经典的低级失误。为了防止这类 I/O 抖动导致系统雪崩,必须做好以下防御性架构调优:

    1. 物理隔离:分离 WAL 目录

    千万不要把 Etcd 的数据和系统的 /var/log 甚至其他业务跑在同一块盘上。 Etcd 启动时强烈建议利用 --wal-dir 参数,将 WAL 单独挂载到一块独立的高性能 SSD / NVMe 盘上。 WAL 是 Append-only 的顺序写,对 IOPS 要求极高且对延迟敏感;而 DB 文件 (--data-dir) 存在随机读写和压缩。分离两者能最大程度保护心跳逻辑。

    2. 调优 Raft 超时参数 (适用于云环境)

    Etcd 默认的 heartbeat-interval=100ms 和 election-timeout=1000ms 是为局域网低延迟裸金属服务器设计的。在存在网络虚拟化和存储网络化(EBS/Ceph)的云环境中,稍微的 I/O 抖动就会打破这个 1 秒的底线。 实战建议: 针对跨可用区(Multi-AZ)或云盘环境,适当放宽超时容忍度。

    # 启动参数调整
    --heartbeat-interval=250
    --election-timeout=2500
    

    注:election-timeout 推荐设置为 heartbeat-interval 的 10 倍,以规避网络偶发丢包。

    3. 确保 Pre-Vote 机制开启

    如果是自行维护的旧版本 Etcd 或其他 Raft 实现,务必确保 Pre-Vote 机制是开启的(Etcd 3.4+ 默认开启)。 当网络发生非对称分区(Asymmetric Partition)或节点局部 I/O 夯死时,节点会被隔离并空转 Term。一旦它恢复并重新接入集群,它的高 Term 会立刻把正常 Leader 打下台。开启 Pre-Vote 后,Candidate 在增加本地 Term 前,必须先发起一轮预投票(PreVote),如果无法获得多数派响应,则不允许增加 Term,从根本上阻断了此类选主风暴。

    排查清单:同类问题速查

    如果你的 K8s/Etcd/Consul 集群出现频繁选主或超时断连,请直接按以下清单排查:

    1. 查磁盘 fsync 延迟:查看 Prometheus 指标 etcd_disk_wal_fsync_duration_seconds,若 P99 超过 election-timeout(默认 1s),必发选主风暴。

    2. 查系统级 I/O 争抢:使用 iostat 检查 IO util 和 await,排查同节点是否有定时快照(Snapshot)、日志备份、Prometheus 压盘等耗 IO 进程。

    3. 查网络 RTT 与丢包率:排查跨 AZ 部署时的网络抖动,指标 etcd_network_peer_round_trip_time_seconds,若网络 RTT 超过心跳间隔(100ms),会导致 Follower 频繁超时。

    4. 查大 Key 写阻塞:排查业务端是否有超大体积的 KV 写入(如巨型 ConfigMap)。Raft 复制大单体 Entry 会占用整个网络与 I/O 周期,变相阻塞后续的心跳包发送。