数据库读写分离这个坑,让刚入职的我一脸懵逼!
点击蓝色「程序通事」关注楼下小黑哥😏
点击下方卡片可搜索文章👇
Hello,大家好!我是楼下小黑哥,我又来了~
今天分享一下以前入职现在公司第一次发布项目遇到的一个问题,一个数据库读写分离的坑。
前言
事情是这样的,刚入职的时候接到了这样的一个业务需求:
每个支付通道支付失败的时候都会返回特定的错误码,业务内部需要将通道特定的错误码转义成内部的错误码,这样对外就可以统一返回我们自己的错误码。
这个需求其实不难,当时设计的系统架构如下:
新增规则的流程简单分为三步:
-
业务人员通过管理后台新增映射规则 -
数据库新增、修改这条映射规则 -
删除缓存
这里之所以增加缓存,是因为这个场景每次支付都需要使用,使用缓存可以避免每次都去数据库读取,增加读取速度。
后续支付请求业务流程如下:
当缓存内映射规则不存在的时候,将会查询数据库,然后加载到缓存中。如果缓存内映射规则已存在,将会直接使用缓存内映射规则。
这个业务流程其实比较简单,当时在测试环境测试也没问题,后续发布线上环境的却碰到奇怪的问题。
「新增规则之后,一段时间内,映射规则并没有生效。查看日志发现,查询数据库的时候,没有数据。」
这就很奇怪了,日志显示新增是成功,但是查询却没有数据。但是过了一段时间,再次查询却又有了数据。
走查了下代码,发现并没有什么问题,第二天上班的时候请教了一下同事,才知道问题的原因:
原来线上的数据库采用主从架构,数据读写分离,数据查询走的是从库。数据写入都是直接操作主库,后续再同步到从库。
「由于数据库同步存在延时,这就导致数据同步的这段时间,主从数据将会不一致,从库无法查询到最新的数据。」
如果你之前的数据库系统架构是单库或者主备结构,当你第一次转到数据读写分离架构,这个坑大概率也会踩到。
数据库系统架构发展
下面我们首先了解一下数据库系统架构,最后再来看下如何解决主从同步延时的导致数据不一致。
主备架构
业务发展的前期,数据访问量小,这时我们可以直接采用单库的架构。
不过我们一般不使用的上面的架构,因为存在单点的问题。若数据库出现故障,这段期间业务将会不可用。我们除了等待重启,其他没什么解决办法。
所以我们会增加一个备库,实时同步主库的数据。
一旦「主库」出了故障,通过人工的方式,手动的将「主机」踢下线,将「备机」改为「主机」来继续提供服务。
这种架构,部署维护简单,业务开发也无需任何改造。
不过缺点也很明显,备库只有在主库有问题的时候才会被启用,存在一定的资源浪费的情况。
主从架构
随着业务发展,请求量不断变大,数据量也不断变大,业务变得更加复杂,很快数据将会到达瓶颈。
由于大多数业务都是读多写少,所以数据库读的最容易成为系统瓶颈。
这时候我们可以提高读的性能,这时我们的可以采用的方案,增加从实例,主从同步,数据读写分离。
可以看到这个架构与主备没什么区别,主要区别在于主从架构下,从库与主库一样,时刻需要干活,主库提供写服务,从库只提供读服务。
如果后续读的压力还是太大,我们还可以增加从库的数量,水平扩充读的能力。
虽然主从架构帮我们解决读的瓶颈,但是由于主从之间需要数据同步,这天然就存在一定延时。
在这延时窗口期内,从库的读只能读到一个旧数据,这也是上面案例问题的真正的原因。
接下来我们来看下有什么办法可以优化这种情况。
主从延时解决办法
忍受大法
第一种解决办法,很简单,无他,不管他,没有读到也没事。这时业务不需要任何改造,你好,我好,她也好~
如果业务对于数据一致性要求不高,我们就可以采用这种方案。
数据同步写方案
主从数据同步方案,一般都是采用的异步方式同步给备库。
我们可以将其修改为同步方案,主从同步完成,主库上的写才能返回。
-
业务系统发起写操作,数据写主库 -
写请求需要等待主从同步完成才能返回 -
数据读从库,主从同步完成就能读到最新数据
这种方案,我们只需要修改数据库之间同步配置即可,业务层无需修改,相对简单。
「不过,由于主库写需要等待主从完成,写请求的时延将会增加,吞吐量将会降低。」
这一点对于现在在线业务,可能无法接受。
选择性强制读主
对于需要强一致的场景,我们可以将其的读请求都操作主库,这样「读写都在主库」,就没有不一致的情况。
这种方案业务层需要改造一下,将其强制性读主,相对改造难度较低。
不过这种方案相对于浪费了另一个数据库,增加主库的压力。
中间件选择路由法
这种方案需要使用一个中间件,所有数据库操作都先发到中间件,由中间件再分发到相应的数据库。
这时流程如下:
-
写请求,中间件将会发到主库,同时记录一下此时写请求的 key( 操作表加主键等) -
读请求,如果此时 key 存在,将会路由到主库 -
一定时间后( 经验值),中间件认为主从同步完成,删除这个 key,后续读将会读从库
这种方案,可以保持数据读写的一致。
但是系统架构增加了一个中间件,整体复杂度变高,业务开发也变得复杂,学习成本也比较高。
缓存路由大法
这种方案与中间件的方案流程比较类似,不过改造成本相对较低,不需要增加任何中间件。
这时流程如下:
-
写请求发往主库,同时缓存记录操作的 key,缓存的失效时间设置为主从的延时 -
读请求首先判断缓存是否存在 -
若存在,代表刚发生过写操作,读请求操作主库 -
若不存在,代表近期没发生写操作,读请求操作从库
这种方案相对中间件的方案成本较低,但是呢我们此时又引入一个缓存组件,所有读写之间就又多了一步缓存操作。
总结
我们引入主从架构,数据读写分离,目的是为了解决业务快速发展,请求量变大,并发量变大,从而引发的数据库的读瓶颈。
不过当引入新一个架构解决问题时,势必会带来另外一个问题,数据库读写分离之后,主从延迟从而导致数据不一致的情况。,
为了解决主从延迟,数据不一致的情况,我们可以采用以下这几种方案:
-
忍受大法 -
数据库同步写方案 -
选择性强制读主 -
中间件选择路由法 -
缓存路由大法
上面的方案都有各自的优点,当然也有相应的缺点,我们需要根据自己的业务情况,选择相应的解决方案。
好了,今天的文章就到此。
我是楼下小黑哥,下周见~
参考链接
从无到有,支付路由系统升级打怪之路|原创
本文分享自微信公众号 - 程序通事(US_stocks)。
如有侵权,请联系 support@oschina.cn 删除。
本文参与“OSC源创计划”,欢迎正在阅读的你也加入,一起分享。

低调大师中文资讯倾力打造互联网数据资讯、行业资源、电子商务、移动互联网、网络营销平台。
持续更新报道IT业界、互联网、市场资讯、驱动更新,是最及时权威的产业资讯及硬件资讯报道平台。
转载内容版权归作者及来源网站所有,本站原创内容转载请注明来源。
- 上一篇
大佬终于把鸿蒙OS讲明白了,收藏了!
点击上方蓝字关注我们 点击上方“ 印象python”,选择“ 星标”公众号 重磅干货,第一时间送达! 到底什么是鸿蒙 OS? 在官网上看到鸿蒙 OS 的简介是,分布式能力造就新硬件、新交互、新服务,打开焕然一新的全场景世界。以及发布会提及最多是他的万物互连,全场景,分布式,微内核,软总线。 换句话说,鸿蒙OS 是为全场景,分布式设计的,微内核,软总线是他重要的实现。 对于全场景,分布式理解,我们可以想一下华为自家的多屏协作,以及电脑,平板和手机可以很方便实现在电脑上操作平板,手机。 另外现在双 11 买到的一些新上市家电,上面可以看到鸿蒙的小 Logo,这些带上鸿蒙的家电,可以通过碰一碰无需安装 App 实现配置组网,也十分方便。 在华为开发者大会上,华为也展示了一些精彩的案例。大家有兴趣回头翻一翻。这些都是通过全场景,分布式特性做到的新交互和体验,十分让人期待。 到此应该有一个疑问,如果不用鸿蒙 OS,能不能实现以上交互?多屏协同,多设备协同? 答案是可以的,官方有提到,他们把鸿蒙 OS 一些能力,例如分布式提出来放到 EMUI 上。 我们在华为的开发平台上可以看到一些 kit 和鸿...
- 下一篇
在路上:严选服务治理实践
当你面对一个由几百上千个服务高度耦合而成的大型系统,各式各样的问题便会不约而至,而且绝对是一个不小的挑战。熵增原理告诉我们——任何系统都需要治理,本文分享严选在多年的服务治理实践中的一些思考、一些心得。 服务需要治理吗? > 当然需要,你100%会碰上各种需求,各种问题。 古代的农民耕种最关心的问题是气候变化、按时播种、按量灌溉,而如今的现代化规模化种植时代,农民(和粮食集团)还需要去关注一系列其它问题,譬如多作物立体种植、经济效应最大化、环保合规和生态破坏等等。只要生产方式和生产规模不是一成不变,那早晚都会有新的问题诞生。 计算机应用亦然。当服务技术架构还是单体服务(monolithic)的年代我们需要解决问题A、问题B和问题C,到了MVC架构/RPC架构/SOA架构盛行的时代可能会引入问题D、E、F,当业务规模持续扩张促使架构演进到微服务(microservice)阶段,此时你会发现,可能老问题A、B、D、F消失不见了,但C和E依然存在,同时还引入了好几个新问题G、H、I、J和K。 > 存在问题或可能出现问题,因此才需要治理。 IBM在2006年对服务治理的要点做过总结...
相关文章
文章评论
共有0条评论来说两句吧...
文章二维码
点击排行
推荐阅读
最新文章
- CentOS7编译安装Gcc9.2.0,解决mysql等软件编译问题
- Docker安装Oracle12C,快速搭建Oracle学习环境
- SpringBoot2全家桶,快速入门学习开发网站教程
- SpringBoot2配置默认Tomcat设置,开启更多高级功能
- CentOS关闭SELinux安全模块
- Eclipse初始化配置,告别卡顿、闪退、编译时间过长
- CentOS6,CentOS7官方镜像安装Oracle11G
- SpringBoot2整合MyBatis,连接MySql数据库做增删改查操作
- Docker使用Oracle官方镜像安装(12C,18C,19C)
- Hadoop3单机部署,实现最简伪集群