知序
返回
保存草稿
发布
H1
H2
H3
1
2
3
Excalidraw 图
AI 写作
AI 优化
目录
输入内容后显示目录
Markdown
# 04 - 高可用:主从与哨兵 ## 主从复制(读写分离) ### 作用 ``` 读写分离:主节点写,从节点读,分担读压力 数据冗余:从节点是主节点的备份,主节点宕机数据不丢失 高可用基础:哨兵和集群都依赖主从复制 ``` ### 配置 ```bash # 从节点配置(redis.conf) replicaof 192.168.1.10 6379 # 指定主节点地址 masterauth yourpassword # 主节点密码 # 或者运行时动态配置 REPLICAOF 192.168.1.10 6379 ``` ### 全量同步(第一次连接)  *图:全量复制时序:PSYNC 请求、RDB 传输与增量命令* ``` 从节点第一次连接主节点,或者断线重连时 backlog 已无法覆盖缺失数据: 从节点 主节点 │ │ │── PSYNC ? -1 ──────────────────→│ 发送同步请求 │ │ │ │ 执行 BGSAVE,生成 RDB 文件 │ │ 同时将新写命令写入 replication buffer │ │ │←── FULLRESYNC runid offset ──────│ 发送 RDB 文件 │←── RDB 文件 ─────────────────────│ │ │ │ 清空旧数据,加载 RDB │ │ │ │←── replication buffer 中的命令 ──│ 发送增量命令 │ │ │ 执行增量命令,与主节点数据一致 │ ``` #### 全量同步全过程 ```bash 第 1 步:从节点发起复制请求 从节点第一次连主节点时,不知道主节点 runid,也没有可用 offset 所以发送:PSYNC ? -1 含义是:我没有历史复制信息,请给我完整数据 第 2 步:主节点判断只能全量同步 主节点收到 PSYNC ? -1 后,返回: FULLRESYNC <runid> <offset> runid:当前主节点运行 ID offset:主节点当前复制偏移量起点 第 3 步:主节点执行 BGSAVE 主节点 fork 子进程执行 BGSAVE,生成 RDB 快照 这个阶段主节点仍然可以继续处理客户端写请求 第 4 步:主节点缓存增量写命令 在生成 RDB 期间,新的写命令不能丢 主节点一边正常处理写请求,一边把这些写命令追加到: 1. repl_backlog_buffer(复制积压缓冲区,共享) 2. replication buffer(发给这个从节点的复制缓冲区,独立) 第 5 步:主节点发送 RDB 文件 BGSAVE 完成后,主节点把 RDB 快照传给从节点 第 6 步:从节点清空旧数据并加载 RDB 从节点会清空当前内存中的旧数据 然后加载主节点发来的 RDB,得到一个“快照时刻”的数据副本 第 7 步:主节点补发增量命令 从节点加载完 RDB 后,主节点再把生成 RDB 期间缓存下来的写命令发给从节点 这些命令就是“快照之后发生的数据变化” 第 8 步:主从进入稳定复制状态 从节点执行完这些增量命令后,数据追平主节点 之后主节点的写命令会持续异步发送给从节点 ``` #### 为什么全量同步成本高 ```bash 1. 主节点要 fork 子进程,数据量大时会有额外开销 2. 要生成并传输整个 RDB,网络和磁盘压力都大 3. 从节点会清空本地数据并重建,恢复期间延迟更高 4. 如果频繁全量同步,主节点和网络都容易被打爆 ``` ### 无盘复制(diskless replication) ```bash 默认情况下,全量同步时主节点会: 1. 先执行 BGSAVE 生成 RDB 文件到磁盘 2. 再把这个 RDB 文件发给从节点 无盘复制的思路是: 主节点仍然会 fork 子进程生成 RDB 但不先落到本地磁盘,而是直接通过 socket 流式发送给从节点 好处: 1. 减少主节点磁盘 IO 2. 对磁盘较慢、网络较快的环境更友好 3. 多个从节点同时全量同步时,主节点可以一次生成、同时分发 注意: 1. 无盘复制只是不落本地 RDB 文件,不代表没有 fork 开销 2. 如果网络不稳定,传输中的失败仍可能导致重新全量同步 3. 更适合“主节点磁盘压力大,但网络条件尚可”的场景 ``` ```bash # 开启无盘复制 repl-diskless-sync yes # 主节点等待一小段时间,尽量让多个从节点一起搭车做全量同步 repl-diskless-sync-delay 5 ``` ```bash 面试里可以这样记: 普通全量同步:BGSAVE -> 落盘 RDB -> 发给从节点 无盘复制:BGSAVE -> 直接通过网络流发给从节点 全量同步 vs 增量同步对比: 全量同步(FULLRESYNC): 触发时机: ├── 从节点第一次连接主节点 ├── 断线重连但 runid 不匹配(主节点变了) └── offset 已被 backlog 覆盖(断线太久/写入太快) 过程:RDB 快照(几GB)→ 网络传输 → 从节点清空加载 代价:fork + 磁盘 I/O + 网络带宽 + 从节点重建 增量同步(PARTIALRESYNC / PSYNC CONTINUE): 触发条件: ├── runid 匹配(还是同一个主节点) └── offset 仍在 repl_backlog_buffer 范围内 过程:主节点从 backlog 中取出缺失命令 → 发给从节点 代价:只传输断线期间新增的命令(小数据量) 优化方向: ├── 增大 repl-backlog-size(减少退化为全量同步的概率) ├── 保持主节点稳定(不要频繁重启/切换) └── 监控复制延迟(及时发现问题,避免雪崩) ``` ### 增量同步(断线重连) ``` 从节点断线重连后,不需要全量同步,只需同步断线期间的命令: 主节点维护一个环形缓冲区(repl_backlog_buffer,默认 1MB) 记录最近写入的命令 从节点重连时发送:PSYNC runid offset runid:主节点的运行 ID offset:从节点已同步到的位置 主节点判断: 如果 offset 在 repl_backlog_buffer 范围内 → 增量同步(发送缺失的命令) 如果 offset 已经被覆盖(缓冲区太小或断线太久)→ 全量同步 所以 repl_backlog_buffer 要设置得足够大: repl-backlog-size 10mb # 根据写入速度和可能的断线时间估算 ``` #### 增量同步全过程 ```bash 第 1 步:正常复制期间维护 offset 主节点和从节点都会维护自己的复制偏移量(offset) 主节点每发送一段复制流,offset 就往前推进 从节点处理完复制流后,也会更新自己的 offset 第 2 步:从节点定期 ACK 从节点会定期向主节点发送: REPLCONF ACK <offset> 告诉主节点:我已经同步到哪里了 第 3 步:从节点断线后重连 重连时,从节点不会再发 PSYNC ? -1 而是发送:PSYNC <master_runid> <offset> 含义是:我以前同步过这个主节点,目前只缺 offset 之后的数据 第 4 步:主节点校验 runid 如果从节点带来的 runid 和当前主节点一致,说明还是同一个主节点 才有机会做增量同步 如果 runid 不一致,说明主节点变了,只能全量同步 第 5 步:主节点校验 offset 是否还在 backlog 里 主节点会检查从节点缺失的那段数据,是否仍保存在 repl_backlog_buffer 中 如果还在,返回 CONTINUE,准备增量同步 如果已经被新数据覆盖掉,就退化成 FULLRESYNC,全量同步 第 6 步:主节点补发缺失命令 主节点从 repl_backlog_buffer 中取出 offset 之后缺失的那部分写命令 按顺序发送给从节点 第 7 步:从节点执行缺失命令并追平 从节点执行这些增量命令后,offset 追上主节点 然后重新回到正常的实时异步复制状态 ``` #### 增量同步成功的两个前提 ```bash 1. 还是同一个主节点(runid 没变) 2. 缺失的数据还在 repl_backlog_buffer 里(offset 没过期) ```  #### 什么时候会从增量退化成全量 ```bash 1. 从节点第一次连接主节点 2. 主节点重启了,runid 变了 3. 从节点断线太久,缺失数据已被 backlog 覆盖 4. backlog 太小,写入太快,来不及保留断线期间的数据 ``` ### PSYNC 优化(Redis 2.8+) ``` 为解决全量同步(RDB 传输)的性能开销,PSYNC 引入: 1. 复制积压缓冲区(replication backlog buffer): 主节点维护一个固定大小的环形缓冲区(默认 1MB) 记录最近执行的写命令 从节点断线重连时,主节点检查偏移量是否在缓冲区范围内 若在 → 部分同步(只发送缺失的命令) 若不在 → 全量同步 2. 主节点运行 ID(runid): 每个主节点启动时生成唯一 runid 从节点首次连接会记录主节点的 runid 重连时发送 runid 和自身偏移量 主节点通过 runid 确认是否为同一主节点,再决定部分或全量同步 3. 偏移量(offset)机制: 主从节点各自维护一个复制偏移量,记录已同步的命令字节数 从节点定期向主节点发送 REPLCONF ACK <offset> 报告自身偏移量 主节点通过对比偏移量判断从节点是否落后 ``` ### replication buffer vs repl_backlog_buffer(面试高频) ``` replication buffer(复制缓冲区): 每个从节点独立一份 主节点发送给从节点的数据先放这里,等从节点 ACK 后才清除 如果从节点消费太慢,缓冲区满了会断开连接(触发全量同步) 配置:client-output-buffer-limit replica 256mb 64mb 60 repl_backlog_buffer(积压缓冲区): 所有从节点共享一份(环形缓冲区) 记录主节点最近写入的命令,用于断线重连后的增量同步 固定大小,写满后覆盖最旧的数据 配置:repl-backlog-size 10mb 简单记: replication buffer:主→从 的实时传输通道(每个从节点独立) repl_backlog_buffer:断线重连时的"历史记录"(所有从节点共享) ``` ### 主从复制的问题 ``` 1. 复制延迟:从节点数据可能落后主节点(异步复制) 读从节点可能读到旧数据(最终一致性) 2. 主节点宕机:需要手动切换,不能自动故障转移 → 解决方案:哨兵(Sentinel) 3. 写能力受限:只有主节点可以写 → 解决方案:集群(Cluster) ``` ### 主从复制延迟怎么排查 ```bash 第 1 步:先确认是不是真的“复制延迟” 现象通常是: 1. 读从节点读到旧数据 2. 主从 offset 差距变大 3. Sentinel 认为某些从节点落后过多 第 2 步:看 INFO replication 重点字段: master_repl_offset # 主节点当前复制偏移量 slave_repl_offset # 从节点当前复制偏移量 lag # 从节点最后一次 ACK 距今秒数 如果主从 offset 持续拉大,说明复制流追不上 第 3 步:判断瓶颈在哪 常见原因有: 1. 主节点写入过快,复制流量太大 2. 网络带宽不足、网络抖动或跨机房延迟高 3. 从节点本身处理不过来(CPU 高、内存紧张、命令执行慢) 4. 大 key / 热 key 导致单次同步命令很重 5. AOF / RDB / 慢磁盘导致从节点阻塞更明显 6. 主节点对从节点的 client output buffer 堆积过大 第 4 步:看主节点输出缓冲区 如果从节点消费太慢,主节点给该从节点的 replication buffer 会持续堆积 严重时触发 client-output-buffer-limit replica,连接被断开 然后就可能退化成重新全量同步 第 5 步:看是否有大命令或慢命令 重点排查: 1. DEL 大 key 2. HGETALL / LRANGE 0 -1 / SMEMBERS 这类全量返回命令 3. 一次性批量写入或大事务脚本 这些命令会让主从复制流突然变重 ``` ```bash 常见优化手段: 1. 提高 repl-backlog-size,减少断线后退化成全量同步 2. 提升网络带宽,尽量避免跨机房主从 3. 拆 bigkey,治理 hotkey,减少重命令 4. 给从节点更充足的 CPU / 内存 / 磁盘资源 5. 合理设置 client-output-buffer-limit replica 6. 从业务侧接受“读从节点可能有短暂延迟”,关键读请求走主节点 ``` ## 哨兵(Sentinel) ### 作用 ``` 监控:持续检查主从节点是否正常运行 通知:节点故障时通知管理员或其他应用 自动故障转移:主节点宕机时,自动选举新主节点 配置提供者:客户端通过哨兵获取主节点地址 ``` ### 哨兵架构  *图:三个哨兵监控一主两从的集群拓扑* ``` ┌──────────┐ ┌──────────┐ ┌──────────┐ │ Sentinel1 │ │ Sentinel2 │ │ Sentinel3 │ └────┬─────┘ └────┬─────┘ └────┬─────┘ │ │ │ └───────────────┼───────────────┘ │ 监控 ┌──────────┼──────────┐ ▼ ▼ ▼ ┌─────────┐ ┌─────────┐ ┌─────────┐ │ Master │ │ Slave1 │ │ Slave2 │ └─────────┘ └─────────┘ └─────────┘ 哨兵集群通常部署奇数个(3 或 5),防止脑裂 ``` ### 故障转移流程  *图:哨兵故障转移时间线:从 SDOWN 到新主提升* ``` 哨兵故障转移完整时间线: 时刻 T0:主节点正常运行 ┌─────────┐ ┌──────────┐ ┌──────────┐ │ Master │────│ Slave1 │────│ Slave2 │ │ (主) │ │ (从) │ │ (从) │ └─────────┘ └──────────┘ └──────────┘ 时刻 T1:主节点宕机,哨兵检测到主观下线(SDOWN,默认 30s 超时) ┌─────────┐ ┌──────────┐ ┌──────────┐ │ Master ✗│ │ Slave1 │ │ Slave2 │ │ (挂) │ │ (从) │ │ (从) │ └─────────┘ └──────────┘ └──────────┘ ↑ ↑ ↑ └── SDOWN ────┴── SDOWN ────┘ (各哨兵独立判断) 时刻 T2:超过 quorum 个哨兵确认 → 客观下线(ODOWN) 时刻 T3:哨兵 Leader 选举(Raft 算法,获半数以上投票) 时刻 T4:Leader 哨兵选出新主节点 选举规则:健康 > 优先级高 > offset 大 > runid 小 假设 Slave1 胜出 时刻 T5:执行故障转移 ① Slave1: REPLICAOF NO ONE → 成为新主 ② Slave2: REPLICAOF Slave1 → 跟随新主 ③ 通知客户端新主地址(发布订阅) ④ 旧主恢复后:REPLICAOF Slave1 → 变成新主的从节点 ┌─────────┐ ┌──────────┐ ┌──────────┐ │ 旧Master│ │ 新Master │ │ Slave2 │ │ → 变为 │ │ (Slave1) │────│ (从) │ │ 从节点 │ │ (主) │ │ │ └─────────┘ └──────────┘ └──────────┘ 整个 failover 耗时 = SDOWN(30s) + ODOWN投票 + Leader选举 + 新主提升 通常 30~60 秒完成 ```  ### 故障转移流程详解 第 1 步:主观下线(SDOWN) 某个哨兵 ping 主节点超时(默认 30 秒),认为主节点主观下线 第 2 步:客观下线(ODOWN) 该哨兵询问其他哨兵,如果超过 quorum 个哨兵都认为主节点下线 → 确认主节点客观下线(quorum 通常设为哨兵数量的一半 + 1) 第 3 步:选举 Leader 哨兵 哨兵之间通过 Raft 算法选举一个 Leader 来执行故障转移 获得超过半数哨兵投票的成为 Leader 第 4 步:选举新主节点 Leader 哨兵从从节点中选出新主节点,选举规则: ① 过滤掉不健康的从节点(断线、数据落后太多) ② 优先选 slave-priority 最小的(配置的优先级) ③ 优先选复制偏移量最大的(数据最新的) ④ 优先选 runid 最小的(字典序) 第 5 步:执行故障转移 ① 向新主节点发送 REPLICAOF NO ONE(取消从节点身份) ② 向其他从节点发送 REPLICAOF 新主节点地址 ③ 通知客户端新主节点地址 ④ 将旧主节点配置为新主节点的从节点(等旧主节点恢复后) ``` ### 哨兵配置 ```bash # sentinel.conf sentinel monitor mymaster 192.168.1.10 6379 2 # 监控主节点,quorum=2 sentinel auth-pass mymaster yourpassword sentinel down-after-milliseconds mymaster 30000 # 30 秒无响应认为下线 sentinel failover-timeout mymaster 180000 # 故障转移超时 3 分钟 sentinel parallel-syncs mymaster 1 # 同时同步的从节点数 # 启动哨兵 redis-sentinel sentinel.conf # 或 redis-server sentinel.conf --sentinel ``` ### 为什么 Sentinel 不能保证强一致 ```bash Sentinel 解决的是“高可用”和“自动故障转移” 但它不能把 Redis 主从复制变成强一致系统 核心原因有三个: 1. 主从复制本身是异步的 主节点写成功后,会先返回客户端 然后再异步把写命令发送给从节点 所以主节点刚写成功就宕机时,这部分数据可能还没来得及复制到从节点 2. 故障判断和切换需要时间 Sentinel 需要先经历: 主观下线 -> 客观下线 -> Leader 选举 -> 新主切换 这个窗口内,系统不可能像强一致协议那样立刻完成单点确定切换 3. 网络分区下可能出现短暂脑裂 老主节点和哨兵之间网络断了,但老主节点对部分客户端可能还是可达的 这时 Sentinel 可能提升了一个新主 而少量客户端如果还在往旧主写,就会产生“旧主脏写” 等旧主恢复并转成从节点后,这部分写入可能被覆盖 ``` ```bash 所以 Sentinel 的一致性语义更接近: 1. 最终一致 2. 尽量少丢数据 3. 自动恢复服务可用性 而不是: 1. 绝对不丢数据 2. 任意时刻都只有一个全局唯一可写主节点 ``` ```bash 如果业务想进一步降低数据丢失风险,可以做这些补强: 1. 不要把 Redis 当成唯一真相来源,关键数据仍落数据库 2. 使用 min-replicas-to-write / min-replicas-max-lag 限制主节点在副本太少时拒绝写入 3. 关键业务写入后做幂等补偿或异步对账 4. 对“不能读旧数据”的请求,避免直接走从节点 ``` ## 面试常见问题 **Q:主从复制的全量同步和增量同步分别在什么时候触发?** A:全量同步:从节点第一次连接主节点,或者断线重连时 repl_backlog_buffer 中已没有从节点需要的数据。增量同步:从节点断线重连,且断线期间的命令还在 repl_backlog_buffer 中,只需同步缺失的命令。 **Q:哨兵是怎么选举新主节点的?** A:选举规则按优先级:① 过滤不健康的从节点;② slave-priority 最小的优先;③ 复制偏移量最大的优先(数据最新);④ runid 最小的优先。选出新主节点后,哨兵 Leader 向其发送 REPLICAOF NO ONE,再通知其他从节点和客户端。 **Q:哨兵的 quorum 是什么?设置多少合适?** A:quorum 是确认主节点客观下线所需的最少哨兵数量。通常设为哨兵总数的一半 + 1(如 3 个哨兵设 quorum=2)。这样可以防止网络分区导致的误判——单个哨兵网络故障不会触发故障转移。 --- 上一篇:[03 - 内存管理与淘汰策略](./03-memory-eviction.md) | 下一篇:[05 - 集群模式](./05-cluster.md)
预览
发布文章
添加摘要让读者更快了解文章内容
取消
确认发布
AI 写作助手
输入一个主题,AI 将为你生成一篇 Markdown 博客文章
AI 正在写作中...
取消
开始生成
AI 优化助手
描述你的修改需求,AI 将在原文基础上进行补充或微调
AI 正在优化中...
取消
开始优化
画布
从已有图里选
✕
图名
保存后生成 /images/excalidraw/<图名>.svg(只能用字母、数字、短横线、下划线、点)
取消
保存并插入