知序
返回
保存草稿
发布
H1
H2
H3
1
2
3
Excalidraw 图
AI 写作
AI 优化
目录
输入内容后显示目录
Markdown
# 02 - 集群架构与数据分区 ## 对等架构 Ignite 采用的是**对等(Peer-to-Peer)架构**,与 Redis Cluster 的主从架构、Hazelcast 的 Master-Slave 形成鲜明对比。在 Ignite 集群中,所有 Server 节点完全对等——没有固定的 Master,任何一个节点都可以接收客户端的读写请求,并通过内部的分布式哈希表(DHT)将请求路由到真正持有数据的节点。 对等架构的设计取舍: - **优点**:天然无单点故障(任何一个节点宕机,集群仍可工作),无需选主,节点扩展灵活 - **代价**:每个节点都要维护完整的集群拓扑信息,节点间通信量较高(Gossip 协议持续交换状态),集群规模增大时 Gossip 开销非线性增长 与 Redis Cluster 的对比:Redis Cluster 虽然也是去中心化,但它是基于 Slot 的主从架构——每个 Slot 只有一个主节点处理写请求;Ignite 每个分区(Partition)有 Primary 和 Backup,但这里的 Primary/Backup 是**分区级别**的概念而非节点级别——一个节点可能同时是某些分区的 Primary 和另一些分区的 Backup。 ``` 对等架构意味着: - 没有单点故障(没有 Master 节点) - 任何节点都可以接收请求 - 节点之间直接通信,不需要通过中心节点转发 - 每个节点都维护完整的拓扑信息(哪些节点在集群中、每个分区的分布) 对比: Redis Cluster: 主从架构,Master 处理写,Slave 只读 Ignite: 对等架构,没有固定的 Master 角色 ``` ## 数据分区 ### 分区策略 ``` Ignite 中每个 Cache 的数据被分成 N 个分区(Partition),默认 1024 个。 分区算法: partition = hash(affinity_key) % partition_count affinity_key 是什么? - 如果指定的 key 是复杂对象:取对象上 @AffinityKeyMapped 注解的字段 - 如果未指定亲和键:整个 key 的 hashCode - 相当于 Redis Cluster 的 hash slot,但更灵活 ``` ``` 分区分布示例(2 个 Server 节点,Partition 数 = 4): Server Node 1: Partition 0 (Primary) Partition 3 (Primary) Partition 1 (Backup) ← Node 2 上 Partition 1 的备份 Partition 2 (Backup) ← Node 2 上 Partition 2 的备份 Server Node 2: Partition 1 (Primary) Partition 2 (Primary) Partition 0 (Backup) ← Node 1 上 Partition 0 的备份 Partition 3 (Backup) ← Node 1 上 Partition 3 的备份 每个分区有明确的主从关系:Primary 处理写,Backup 同步读 (但这里的 Primary/Backup 是分区级别的,不是节点级别的) ``` ### Affinity Key(亲和键)— 核心概念 ``` 亲和键决定了哪些数据放在同一分区,是实现并置计算的基础。 没有 Affinity Key: Cache: orders order_001 → hash(order_001) % 1024 = 500 order_002 → hash(order_002) % 1024 = 721 → 同一用户的订单分散在不同节点 有 Affinity Key: Cache: orders,配置 affinityKey = userId // OrderKey 是复合键 class OrderKey { @AffinityKeyMapped String userId; // 亲和键 String orderId; // 实际区分不同订单 } OrderKey("user_1", "order_001") → hash("user_1") % 1024 = 500 OrderKey("user_1", "order_002") → hash("user_1") % 1024 = 500 OrderKey("user_2", "order_003") → hash("user_2") % 1024 = 721 → user_1 的所有订单在分区 500(同一节点) → user_2 的所有订单在分区 721(同一节点) ``` ``` Affinity Key 的核心价值: 1. 并置查询(Co-located Join) 查询"user_1 的所有订单" → 无需跨节点,数据在同一个分区 2. 并置计算(Affinity Call) 计算"user_1 的订单总额" → 函数在数据所在的节点执行,不需要网络搬运数据 3. 并置事务 跨多条记录的事务,如果它们在同一个分区 → 单节点事务,性能极高 ``` ## Baseline Topology Baseline Topology(基线拓扑)是控制数据再平衡的关键概念。 ``` 什么是 Baseline Topology? 是管理员手动设置的一组 Server 节点集合 这些节点被认为是最小可运行的集群拓扑 只有当节点在这个集合中时,数据才会被重新分配 为什么需要它? 场景:3 节点集群,Node 3 临时宕机维护 没有 Baseline Topology(旧版本行为): Node 3 宕机 → 集群认为拓扑变了 → 立即将 Partition 1 从 Node 3 迁移到 Node 1 和 Node 2 → 数据大量搬迁,消耗网络和 I/O → Node 3 修好重启 → 又触发一次搬迁 → 集群震荡! 有 Baseline Topology(Ignite 2.x+): Node 3 宕机 → 检测到不在基线中的节点丢失 → 不会触发数据再平衡 → Node 3 修好重启 → 数据还在,不需要搬迁 → 配合备份节点(Backup)保证可用性 配置: <property name="baselineTopology"> <list> <value>node1</value> <value>node2</value> <value>node3</value> </list> </property> // 或动态设置 ignite.cluster().setBaselineTopology(baselineNodes); ``` ``` 操作命令: # 查看当前基线拓扑 control.sh --baseline # 添加节点到基线 control.sh --baseline add node4 # 从基线移除节点 control.sh --baseline remove node3 ``` ## 客户端节点 vs 服务端节点 ``` ┌───────────────────────────────────────────────────────┐ │ Ignite Cluster │ │ │ │ ┌──────────────┐ ┌──────────────┐ ┌─────────────┐ │ │ │ Server Node │ │ Server Node │ │ Server Node │ │ │ │ (存数据) │ │ (存数据) │ │ (存数据) │ │ │ └──────┬───────┘ └──────┬───────┘ └──────┬──────┘ │ │ │ │ │ │ │ └─────────┬───────┴─────────┬───────┘ │ │ │ │ │ │ ┌──────▼──────┐ ┌──────▼──────┐ │ │ │ Client Node │ │ Client Node │ │ │ │ (不存数据) │ │ (不存数据) │ │ │ └─────────────┘ └─────────────┘ │ └───────────────────────────────────────────────────────┘ Server Node(服务端): - 持有数据(主分区或备份分区) - 参与集群管理 - 参与计算执行 Client Node(客户端): - 不存数据(分区数为 0) - 知道整个集群的拓扑和分区分布 - 接收应用请求,直接路由到持有数据的 Server 节点 - 可以参与计算(把闭包发给 Server,收集结果) - 可以部署 Service(微服务) Client Node 的好处: 应用直接启动 Ignite Client,无需单独部署网关层 ``` ## 数据亲和路由 ``` Client 发送请求的流程: 1. Client 维护全量分区映射表(partition → node 映射) 2. 收到请求 hash(affinity_key) → partition id 3. 查映射表 → 直接发到持有该分区的 Server 节点 4. 不经过任何代理或路由转发 类比: Redis Cluster: Client → 任意节点 → MOVED 重定向 → 正确节点 Ignite: Client → 直接到正确节点(少一跳) 这就是 Ignite 比 "Client → 网关 → 数据节点" 架构快的原因之一。 ``` ## 面试常见问题 **Q:Baseline Topology 是什么?有什么用?** A:Baseline Topology 是管理员手动设定的最小运行节点集合。当非基线节点宕机时,不会触发全量数据再平衡,避免不必要的网络和数据搬迁。主要用于控制数据再平衡的时机,减少集群震荡。 **Q:什么是 Affinity Key?** A:亲和键决定了数据放在哪个分区。同一亲和键的所有数据(如用户的所有订单)会路由到同一分区,实现并置查询、并置计算、并置事务。没有 Affinity Key 则默认用完整 key 计算哈希。 **Q:Ignite 的 Client Node 和 Server Node 有什么区别?** A:Server Node 存储数据并参与计算;Client Node 不存数据,但持有完整拓扑信息,能将请求直接路由到正确 Server 节点。Client Node 通常和应用进程在同一 JVM 中启动。 --- 下一篇:[03 - 存储引擎与持久化](./03-storage.md)
预览
发布文章
添加摘要让读者更快了解文章内容
取消
确认发布
AI 写作助手
输入一个主题,AI 将为你生成一篇 Markdown 博客文章
AI 正在写作中...
取消
开始生成
AI 优化助手
描述你的修改需求,AI 将在原文基础上进行补充或微调
AI 正在优化中...
取消
开始优化
画布
从已有图里选
✕
图名
保存后生成 /images/excalidraw/<图名>.svg(只能用字母、数字、短横线、下划线、点)
取消
保存并插入