Redis 大型攻略之主从复制、哨兵模式、群集模式(理论详解+搭建步骤)
文章目录
- 前言
- 一、Redis主从复制
- 1.主从复制
- 二、哨兵模式
- 1.哨兵模式集群架构
- 2.哨兵模式主要功能
- 3.哨兵监控整个系统节点的过程
- 4.哨兵模式下的故障迁移
- ① 主观下线
- ② 客观下线
- ③ master选举
- ④ 故障转移
- 三、Cluster群集
- 1.作用
- ① 数据分区
- ②高可用
- ③ 数据分片
- 四、项目一(主从复制)
- 1.安装redis
- 2.修改 Redis 配置文件
- 3.验证主从效果
- 五、项目二(哨兵)
- 六、项目一(cluster集群)
- 1.环境
- 2.创建端口工作目录
- 3.修改配置文件
- 4.加入集群
- 5.测试集群
前言
redis群集有三种模式,分别是主从同步/复制、哨兵模式、Cluster
一、Redis主从复制
- 通过持久化功能,redis保证了即使在服务器重启的情况下也不会丢失(或少量丢失)数据,因为持久化会把内存中的数据保存到硬盘上,重启会从硬盘上加载数据,但是由于数据是存储在一台服务器上的,如果这台服务器出现硬盘故障等问题,也会导致数据丢失
- 喂了避免单点故障,通常的做法是将数据库复制多个副本以部署在不同服务器上,这样即使有一台服务器出现故障,其他服务器依然可以继续提供服务,为此,redis提供了复制(replication)功能,可以实现当一台数据库中的数据更新后,自动将更新的数据同步到其他数据库上
- 在复制的概念中,数据库分为两类,一类是主数据库(master),另一类是从数据(slave)。主数据可以进行读和写操作,当写操作导致数据变化时会自动将数据同步给从数据库,而从数据库一般是只读的,并接受主数据同步过来的数据。一个主数据库可以拥有多个从数据库,而一个从数据库只能拥有一个主数据库
1.主从复制
①若启动一个slave机器进程,则它会向master机器发送一个“sync command”命令,请求同步连接
②无论是第一次连接还是重新连接,master机器都会启动一个后台进程,将数据快照(RDB)保存到数据文件中(执行RDB操作),同时master还会记录修改数据的所有命令,并缓存在数据文件中
③后台进程完成缓存操作后,master机器就会向slave机器发送数据文件,slave端机器将数据文件保存在硬盘上,然后将其加载到内存中,接着master机器就会将修改数据的所有操作一并发送给slave端机器。若slave出现故障导致宕机,则恢复正常后会自动重新连接
④master机器收到slave端机器的连接后,将其完整的数据文件发送给slave端机器,如果master同时收到多个slave发来的同步请求,则master会在后台启动一个进程以保存数据文件,然后将其发送给所有的slave端机器,确保所有的slave端机器都正常工作
二、哨兵模式
1.哨兵模式集群架构
哨兵时redis集群架构中非常重要的 一个组件,主要是解决了主从复制出现故障时需要人为干预的问题
2.哨兵模式主要功能
① 集群监控:负责监控Redismaster和slave进程是否正常工作
② 消息通知:如果某个Redis实例有故障,那么哨兵负责发送消息作为报敬通知给管理员
③ 故障转移:如果master node挂掉了,会自动转移到slave node上
④ 配置中心:如果故障转移发生了,通知client客户端新的master地址
使用一个或者多个哨兵(Sentinel)实例组成的系统,对redis节点进行监控 在主节点出现故障的情况下, 能将从节点中的一个升级为主节点,进行故障转义,保证系统的可用性。
3.哨兵监控整个系统节点的过程
① 首先主节点的信息是配置在哨兵(Sentinel)的配置文件中
② 哨兵节点会和配置的主节点建立起两条连接命令连接和订阅连接
PS:Redis发布订阅(pub/sub)是一种消息通信模式:发送者(pub)发送消 息,订阅者 (sub) 接收消息。
③ 哨兵会通过命令连接每10s发送一次INFO命令,通过INFO命令,主节点会返回自己的run_id和自己的从节点信息
④ 哨兵会对这些从节点也建立两条连接命令连接和订阅连接
⑤ 哨兵通过命令连接向从节点发送INFO命令,获取到他的一些信息:
run id(redis服务器id)
role(职能)
从服务器的复制偏移量offset
其他
⑥ 通过命令连接向服务器的sentinel:hello频道发送一条消息,内容包括自己的ip端口、run id、配置(后续投票的时候会用到)等
⑦ 通过订阅连接对服务器的sentinel:hello频道做了监听,所以所有的向该频道发送的哨兵的消息都能被接受到
⑧ 解析监听到的消息,进行分析提取,就可以知道还有那些别的哨兵服务节点也在监听这些主从节点了,更新结构体将这些
哨兵节点记录下来
⑨ 向观察到的其他的哨兵节点建立命令连接----没有订阅连接
4.哨兵模式下的故障迁移
① 主观下线
哨兵(Sentinel)节点会每秒一次的频率向建立了命令连接的实例发送PING命令,如果在down-after-milliseconds毫秒内没有做出有效响应包括(PONG/LOADING/MASTERDOWN)以外的响应,哨兵就会将该实例在本结构体中的状态标记为SRI_S_DOWN主观下线
② 客观下线
当一个哨兵节点发现主节点处于主观下线状态是,会向其他的哨兵节点发出询问,该节点是不是已经主观下线了。如果超过配置参数quorum个节点认为是主观下线时,该哨兵节点就会将自己维护的结构体中该主节点标记为SRIO DOWN客观下线询问命令SENTINEL is-master-down-by-addr
③ master选举
在认为主节点客观下线的情况下,哨兵节点节点间会发起一次选举,命令为:SENTINEL is-master-down-by-addr
只是runid这次会将自己的runid带进去,希望接受者将自己设置为主节点。如果超过半数以上的节点返回将该节点标记为leacer的情况下,会有该leader对故障进行迁移
④ 故障转移
-
在从节点中挑选出新的主节点
通讯正常
优先级排序
优先级相同时选择offset最大的 -
将该节点设置成新的主节点SLAVEOF no one,并确保在后续的INGO命令时 该节点返回状态为master
-
将其他的从节点设置成从新的主节点复制,SLAVEOF命令
-
将旧的主节点变成新的主节点的从节点
PS:优缺点
- 优点:
高可用,哨兵模式是基于主从模式的,所有主从模式的优点,哨兵模式都具有有;主从可以自动切换,系统更
健壮,可用性更高 - 缺点:
redis比较难支持在线扩容,在群集容量达到上限时在线扩容会变得很复杂
三、Cluster群集
- 主节点负责读写请求和集群信息的维护,从节点只进行主节点数据和状态信息的复制
1.作用
① 数据分区
-
数据分区(或称数据分片)是集群最核心的功能
-
集群将数据分散到多个节点,一方面突破了 Redis 单机内存大小的限制,存储容量大大增加,另一方面每个主节点都可以对外提供读服务和写服务,大大提高了集群的响应能力
-
Redis 单机内存大小受限问题,在介绍持久化和主从复制时都有提及
-
例如,如果单机内存太大,bgsave 和 bgrewriteaof 的 fork 操作可能导致主进程阻塞,主从环境下主机切换时可能导致从节点长时间无法提供服务,全量复制阶段主节点的复制缓冲区可能溢出
②高可用
- 集群支持主从复制和主节点的自动故障转移(与哨兵类似),当任意节点发送故障时,集群仍然可以对外提供服务
③ 数据分片
- Redis 集群引入了哈希槽的概念,有 16384 个哈希槽(编号 0~16383)
- 集群的每个节点负责一部分哈希槽,每个 Key 通过 CRC16 校验后对 16384 取余来决定放置哪个哈希槽,通过这个值,去找到对应的插槽所对应的节点,然后直接自动跳转到这个对应的节点上进行存取操作
- 以 3 个节点组成的集群为例:
节点 A 包含 0~5469 号的哈希槽
节点 B 包含 5461~10922 号的哈希槽
节点 C 包含 10923~16383 号的哈希槽