Redis 备份、容灾及高可用实战

《Redis 备份、容灾及高可用实战》要点:
本文介绍了Redis 备份、容灾及高可用实战,希望对您有用。如果有疑问,可以联系我们。

Redis 备份、容灾及高可用实战

Redis 备份、容灾及高可用实战

Redis已经大量应用于各种互联网架构场景中,其优异的性能,良好的操作性,以及大量的场景应用案例,使得Redis备受瞩目.本文作者向大家介绍了一种Redis在非大集群分布式应用场景下的灾备办理方案.一起来品读一下吧~

Redis 备份、容灾及高可用实战

作者介绍

郝朝阳,宜搜科技,运维工程师,负责前端运维工作.专注于运维自动化的实现.致力于DevOps思想的推广,赞助企业形成形成自有文化的运维体系建设.

一,Redis简单介绍

Redis是一个高性能的key-value非关系型数据库,由于其具有高性能的特性,支持高可用、持久化、多种数据结构、集群等,使其脱颖而出,成为常用的非关系型数据库.此外,Redis的使用场景也比拟多.

  1. 会话缓存(Session Cache)

    Redis缓存会话有非常好的优势,因为Redis提供持久化,在需要长时间坚持会话的应用场景中,如购物车场景这样的场景中能提供很好的长会话支持,能给用户提供很好的购物体验.

  2. 全页缓存

    在WordPress中,Pantheon提供了一个不错的插件wp-redis,这个插件能以最快的速度加载你曾经浏览过的页面.

  3. 队列

    Reids提供list和set操作,这使得Redis能作为一个很好的消息队列平台来使用.

    我们常通过Reids的队列功能做购买限制.比如到节假日或者推广期间,进行一些活动,对用户购买行为进行限制,限制本日只能购买几次商品或者一段时间内只能购买一次.也比较适合适用.

  4. 排名

    Redis在内存中对数字进行递增或递减的操作实现得非常好.所以我们在很多排名的场景中会应用Redis来进行,比如小说网站对小说进行排名,根据排名,将排名靠前的小说保举给用户.

  5. 发布/订阅

    Redis提供发布和订阅功能,发布和订阅的场景很多,好比我们可以基于发布和订阅的脚本触发器,实现用Redis的发布和订阅功能建立起来的聊天系统.

此外还有很多其它场景,Redis都表示的不错.

二,Redis使用中单点故障问题

正是由于Redis具备多种优良特新,且应用场景非常丰富,以至于Redis在各个公司都有它存在的身影.那么随之而来的问题和风险也就来了.Redis虽然应用场景丰富,但部分公司在实践Redis应用的时候还是相对保守使用单节点部署,那为日后的维护带来了平安风险.

在2015年的时候,曾处理过一个因为单点故障原因导致的业务中断问题.当时的Redis都未采纳分布式部署,采纳单实例部署,并未考虑容灾方面的问题.

当时我们通过Redis服务器做用户购买优惠商品的行为控制,但后来由于未知原因Redis节点的服务器宕机了,导致我们无法对用户购买行为进行控制,造成了用户能够在一段时间内多次购买优惠商品的行为.

这种宕机事故可以说已经对公司造成了不可挽回的损失了,平安风险问题非常严重,作为当时运维这个系统的我来说有必要对这个问题进行修复和在架构上的改进.于是我开始了解决非分布式应用下Redis单点故障方面的研究学习.

三,非分布式场景下Redis应用的备份与容灾

Redis主从复制现在应该是很普遍了.常用的主从复制架构有如下两种架构方案.

常用Redis主从复制

方案一

Redis 备份、容灾及高可用实战

这是最常见的一种架构,一个Master节点,两个Slave节点.客户端写数据的时候是写Master节点,读的时候,是读取两个Slave,这样实现读的扩展,减轻了Master节点读负载.

方案二

Redis 备份、容灾及高可用实战

这种架构同样是一个Master和两个Slave.不同的是Master和Slave1使用keepalived进行VIP转移.Client连接Master的时候是通过VIP进行连接的.避免了方案一IP变动的情况.

Redis主从复制优点与不敷

  • 优点

  1. 实现了对master数据的备份,一旦master呈现故障,slave节点可以提升为新的master,顶替旧的master继续提供服务

  2. 实现读扩展.使用主从复制架构,一般都是为了实现读扩展.Master主要实现写功能,Slave实现读的功能

不敷

架构方案一

当Master呈现故障时,Client就与Master端断开连接,无法实现写功能,同时Slave也无法从Master进行复制.

Redis 备份、容灾及高可用实战

此时必要经过如下操作(假设提升Slave1为Master):

1)在Slave1上执slaveof no one命令提升Slave1为新的Master节点.

2)在Slave1上配置为可写,这是因为大多数情况下,都将slave配置只读.

3)告诉Client端(也便是连接Redis的程序)新的Master节点的连接地址.

4)配置Slave2从新的Master进行数据复制.

架构方案二

当master出现故障后,Client可以连接到Slave1上进行数据操作,但是Slave1就成了一个单点,就出现了常常要避免的单点故障(single point of failure).

Redis 备份、容灾及高可用实战

之后必要经过如下操作:

1)在Slave1上执行slaveof no one命令提升Slave1为新的Master节点

2)在Slave1上配置为可写,都将Slave配置只读

3)配置Slave2从新的Master进行数据复制

可以发现,无论是哪种架构方案都必要人工干预来进行故障转移(failover).必要人工干预就增加了运维工作量,同时也对业务造成了巨大影响.这时候可以使用Redis的高可用方案-Sentinel

四,Redis Sentinel介绍

Redis Sentinel为Redis提供了高可用方案.从实践方面来说,使用Redis Sentinel可以创立一个无需人为干预就可以预防某些故障的Redis环境.Redis Sentinel设计为分布式的架构,运行多个Sentinel进程来共同合作的.运行多个Sentinel进程合作,当多个Sentinel同一给定的master无法再继续提供服务,就会执行故障检测,这会降低误报的可能性.

五,Redis Sentinel功能

Redis Sentinel在Redis高可用方案中主要作用有如下功能:

  • 监控Sentinel会赓续的检查master和slave是否像预期那样正常运行

  • 通知通过API,Sentinel能够通知系统管理员、程序监控的Redis实例呈现了故障

  • 自动故障转移如果master不像预想中那样正常运行,Sentinel可以启动故障转移过程,其中的一个slave会提成为master,其它slave会重新配置来使用新的master,使用Redis服务的应用法式,当连接时,也会被通知使用新的地址.

  • 配置提供者Sentinel可以做为客户端服务发现的认证源:客户端连接Sentinel来获取目前负责给定服务的Redis master地址.如果发生故障转移,Sentinel会申报新的地址.

六,Redis Sentinel架构

Redis 备份、容灾及高可用实战

七,Redis Sentinel实现原理

Sentinel集群对自身和Redis主从复制进行监控.当发现Master节点出现故障时,会经过如下步调:

1)Sentinel之间进行选举,选举出一个leader,由选举出的leader进行failover

2)Sentinel leader选取slave节点中的一个slave作为新的Master节点.对slave选举需要对slave进行选举的办法如下:

a) 与master断开时间

如果与master断开的时间超过down-after-milliseconds(sentinel配置) * 10秒加上从sentinel判定master弗成用到sentinel开始执行故障转移之间的时间,就认为该slave不适合提升为master.

b) slave优先级

每个slave都有优先级,保留在redis.conf配置文件里.如果优先级相同,则继续进行.

c) 复制偏移位置

复制偏移纪录着从master复制数据复制到哪里,复制偏移越大注解从master接受的数据越多,如果复制偏移量也一样,继续进行选举

d) Run ID

选举具有最小Run ID的Slave作为新的Master

流程图如下:

Redis 备份、容灾及高可用实战

3) Sentinel leader会在上一步选举的新master上执行slaveof no one操作,将其提升为master节点

4)Sentinel leader向其它slave发送命令,让剩余的slave成为新的master节点的slave

5)Sentinel leader会让本来的master降级为slave,当恢复正常工作,Sentinel leader会发送命令让其从新的master进行复制以上failover操作均有sentinel自己独自完成,完全无需人工干预.

总结

使用sentinel实现了Redis的高可用,当master呈现故障时,完全无需人工干预即可实现故障转移.避免了对业务的影响,提高了运维工作效率.在部署sentinel的时候,建议使用奇数个sentinel节点,最少三个sentinel节点.

写在最后

由于sentinel知识点比拟多,这里仅给大家进行介绍,让大家有个了解,想了解更多可与我联系.谢谢.

END

近期好文:

第八届全球运维大会

GOPS2017·上海站将于2017年11月17日-18日在上海举行

各种出色等您发掘.

Redis 备份、容灾及高可用实战

Redis 备份、容灾及高可用实战

点击阅读原文存眷活动官网

《Redis 备份、容灾及高可用实战》是否对您有启发,欢迎查看更多与《Redis 备份、容灾及高可用实战》相关教程,学精学透。编程之家PHP学院为您提供精彩教程。

版权声明:本文内容由互联网用户自发贡献,该文观点与技术仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请发送邮件至 dio@foxmail.com 举报,一经查实,本站将立刻删除。

相关推荐


文章浏览阅读1.3k次。在 Redis 中,键(Keys)是非常重要的概念,它们代表了存储在数据库中的数据的标识符。对键的有效管理和操作是使用 Redis 数据库的关键一环,它直接影响到数据的存取效率、系统的稳定性和开发的便利性。本文将深入探讨 Redis 中键的管理和操作,包括键的命名规范、常用的键操作命令以及一些最佳实践。我们将详细介绍如何合理命名键、如何使用键的过期和持久化特性、如何批量删除键等技巧,旨在帮助读者更好地理解并灵活运用 Redis 中的键,从而提高数据管理和操作的效率和可靠性。
文章浏览阅读3.3k次,点赞44次,收藏88次。本篇是对单节点的应用,但从中我们也能推断出一些关于集群的应用,不过大多数公司能搞个主从就已经是不错了,所以你能学会这个已经算是很有用了,关于ES,博主前面也讲过一些基础应用,创建一个工具类利用ES的数据模型进行存储就可以达到一个canal同时对Redis和ES的同步,如果担心出问题,可以把Canal搞成集群的形式,这个后续有时间博主再给大家做讲解。今天就到这里了,觉得不错就支持一下吧。_canal redis
文章浏览阅读8.4k次,点赞8次,收藏18次。Spring Boot 整合Redis实现消息队列,RedisMessageListenerContainer的使用,Pub/Sub模式的优缺点_springboot redis 消息队列
文章浏览阅读978次,点赞25次,收藏21次。在Centos上安装Redis5.0保姆级教程!_centos7 安装redis5.0服务器
文章浏览阅读1.2k次,点赞21次,收藏22次。Docker-Compose部署Redis(v7.2)主从模式首先需要有一个redis主从集群,才能接着做redis哨兵模式。_warning: sentinel was not able to save the new configuration on disk!!!: dev
文章浏览阅读2.2k次,点赞59次,收藏38次。合理的JedisPool资源池参数设置能为业务使用Redis保驾护航,本文将对JedisPool的使用、资源池的参数进行详细说明,最后给出“最合理”配置。_jedispool资源池优化
文章浏览阅读1.9k次。批量删除指定前缀的Key有两中方法,一种是借助 redis-cli,另一种是通过 SCAN命令来遍历所有匹配前缀的 key,并使用 DEL命令逐个删除它们。_redis删除前缀的key
文章浏览阅读890次,点赞18次,收藏20次。1. Redis时一个key-cakye的数据库,key一般是String类型,不过value类型有很多。eg.String Hash List Set SortedSet (基本) | GEO BitMap HyperLog (特殊)2.Redis为了方便学习,将操作不同类型的命令做了分组,在官网可以进行查询。
文章浏览阅读1.1k次,点赞19次,收藏26次。若不使用Redisson,而是用synchronized(this),此时会造成对服务器的加锁,若开始大量查询ID为1的商品,每台机器都会先跑一遍加个锁,然后在查询ID为2的数据,此时需要等待ID为1的锁释放,所以需要将this对象调整为全局商品ID。若在执行bgsave命令时,还有其他redis命令被执行(主线程数据修改),此时会对数据做个副本,然后bgsave命令执行这个副本数据写入rdb文件,此时主线程还可以继续修改数据。在当前redis目录下会生成aof文件,对redis修改数据的命令进行备份。
文章浏览阅读1.5k次,点赞39次,收藏24次。本文全面剖析Redis集群在分布式环境下的数据一致性问题,从基础原理到高级特性,涵盖主从复制、哨兵模式、持久化策略等关键点,同时也分享了关于监控、故障模拟与自适应写一致性策略的实践经验。_redis集群一致性
文章浏览阅读1k次。RDB因为是二进制文件,在保存的时候体积也是比较小的,它恢复的比较快,但是它有可能会丢数据,我们通常在项目中也会使用AOF来恢复数据,虽然AOF恢复的速度慢一些,但是它丢数据的风险要小很多,在AOF文件中可以设置刷盘策略,我们当时设置的就是每秒批量写入一次命令。AOF的含义是追加文件,当redis操作写命令的时候,都会存储这个文件中,当redis实例宕机恢复数据的时候,会从这个文件中再次执行一遍命令来恢复数据。:在Redis中提供了两种数据持久化的方式:1、RDB 2、AOF。
文章浏览阅读1k次,点赞24次,收藏21次。NoSQL(No only SQL)数据库,泛指非关系型数据库,实现对于传统数据库而言的。NoSQL 不依赖业务逻辑方式进行存储,而以简单的 key-value 模式存储。因此大大增加了数据库的扩展能力。不遵循SQL标准不支持ACID远超于SQL的性能Redis是当前比较热门的NOSQL系统之一,它是一个开源的使用ANSI c语言编写的key-value存储系统(区别于MySQL的二维表格的形式存储。
文章浏览阅读988次,点赞17次,收藏19次。在上面的步骤中,我们已经开启了 MySQL 的远程访问功能,但是,如果使用 MySQL 管理工具 navicat 连接 MySQL 服务端时,还是可能会出现连接失败的情况。在实际工作中,如果我们需要从其他地方访问和管理 MySQL 数据库,就需要开启 MySQL 的远程访问功能并设置相应的权限。这对于我们的工作效率和数据安全都有很大的帮助。通过查看 MySQL 用户表,我们可以看到’host’为’%’,说明 root 用户登录 MySQL 的时候,可以允许任意的 IP 地址访问 MySQL 服务端。
文章浏览阅读956次。Redis Desktop Manager(RDM)是一款用于管理和操作Redis数据库的图形化界面工具。提供了简单易用的界面,使用户能够方便地执行各种Redis数据库操作,并且支持多个Redis服务器的连接_redisdesktopmanager安装包
文章浏览阅读1.9k次,点赞52次,收藏27次。缓存击穿指的是数据库有数据,缓存本应该也有数据,但是缓存过期了,Redis 这层流量防护屏障被击穿了,请求直奔数据库。缓存穿透指的是数据库本就没有这个数据,请求直奔数据库,缓存系统形同虚设。缓存雪崩指的是大量的热点数据无法在 Redis 缓存中处理(大面积热点数据缓存失效、Redis 宕机),流量全部打到数据库,导致数据库极大压力。
文章浏览阅读1.2k次。一次命令时间(borrow|return resource + Jedis执行命令(含网络) )的平均耗时约为1ms,一个连接的QPS大约是1000,业务期望的QPS是50000,那么理论上需要的资源池大小是50000 / 1000 = 50个,实际maxTotal可以根据理论值合理进行微调。JedisPool默认的maxTotal=8,下面的代码从JedisPool中借了8次Jedis,但是没有归还,当第9次(jedisPool.getResource().ping())3、发生异常可能的情况。_redis.clients.jedis.exceptions.jedisconnectionexception: could not get a res
文章浏览阅读1k次,点赞27次,收藏18次。在这篇文章中,你将了解到如何在 CentOS 系统上安装 Redis 服务,并且掌握通过自定义域名来访问 Redis 服务的技巧。通过使用自定义域名,你可以方便地管理和访问你的 Redis 数据库,提高工作效率。无论你是开发者、系统管理员还是对 Redis 感兴趣的读者,这篇文章都会为你提供清晰的指导和实用的技巧。阅读本文,轻松搭建自己的 Redis 服务,并体验自定义域名带来的便捷!_redis怎么自定义域名
文章浏览阅读1.1k次,点赞15次,收藏18次。我们post请求,拦截器要预先读取HtppServletRequest里面的body的数据,是通过io的方式,都知道io读取完毕之后,之前的数据是变为null的,但是,当我么后面的接口来委派的时候,也是通过io读取body。我们要考虑一个事情,就是我们要验证数据的重复提交: 首先第一次提交的数据肯定是要被存储的,当而第二次往后,每次提交数据都会与之前的数据产生比对从而验证数据重复提交,我们要具体判断数据是否重复提交的子类。发现数据是成功存入的,剩余7s过期,在10s之内,也就是数据没过期之前,在发送一次。_json.parseobject(str, clazz, auto_type_filter);
文章浏览阅读3.9k次,点赞3次,收藏7次。PHP使用Redis实战实录系列:我们首先检查$redis->connect()方法的返回值来确定是否成功连接到Redis服务器。如果连接失败,我们可以输出相应的错误信息。如果连接成功,我们再执行一些操作,如$redis->set()、$redis->get()等,并检查每个操作的返回结果来判断是否发生了异常。_php redis
文章浏览阅读1.5w次,点赞23次,收藏51次。Redis(Remote Dictionary Server ),即远程字典服务,是一个开源的使用ANSI C语言编写、支持网络、可基于内存亦可持久化的日志型、Key-Value数据库,并提供多种语言的API。Redis 是一个高性能的key-value数据库。redis的出现,很大程度补偿了memcached这类key/value存储的不足,在部 分场合可以对关系数据库起到很好的补充作用。_redisdesktopmanager下载