深入理解分布式系统中的缓存架构(上)
本文主要介绍大型分布式系统中缓存的相关理论,常见的缓存组件以及应用场景。
1 缓存概述
缓存概述
2 缓存的分类
缓存主要分为以下四类
缓存的分类
2.1 CDN缓存
基本介绍
CDN(Content Delivery Network 内容分发网络)的基本原理是广泛采用各种缓存服务器,将这些缓存服务器分布到用户访问相对集中的地区或网络中,在用户访问网站时,利用全局负载技术将用户的访问指向距离最近的工作正常的缓存服务器上,由缓存服务器直接响应用户请求
应用场景
主要缓存静态资源,例如图片,视频
应用图
未使用CDN缓存
使用CDN缓存
优点
优点
2.2 反向代理缓存
基本介绍
反向代理位于应用服务器机房,处理所有对WEB服务器的请求。
如果用户请求的页面在代理服务器上有缓冲的话,代理服务器直接将缓冲内容发送给用户。如果没有缓冲则先向WEB服务器发出请求,取回数据,本地缓存后再发送给用户。通过降低向WEB服务器的请求数,从而降低了WEB服务器的负载。
应用场景
一般只缓存体积较小静态文件资源,如css、js、图片
应用图
反向代理缓存应用图
开源实现
开源实现
2.3 本地应用缓存
基本介绍
指的是在应用中的缓存组件,其最大的优点是应用和cache是在同一个进程内部,请求缓存非常快速,没有过多的网络开销等,在单应用不需要集群支持或者集群情况下各节点无需互相通知的场景下使用本地缓存较合适;
同时,它的缺点也是应为缓存跟应用程序耦合,多个应用程序无法直接的共享缓存,各应用或集群的各节点都需要维护自己的单独缓存,对内存是一种浪费。
应用场景
缓存字典等常用数据
缓存介质
缓存介质
实现
编程直接实现
编程直接实现
Ehcache
基本介绍
Ehcache是??一种基于标准的开源缓存,可提高性能,卸载数据库并简化可伸缩性。
它是使用最广泛的基于Java的缓存,因为它功能强大,经过验证,功能齐全,并与其他流行的库和框架集成。Ehcache可以从进程内缓存扩展到使用TB级缓存的混合进程内/进程外部署
应用场景
Ehcache应用场景
Ehcache架构图
Ehcache架构图
Ehcache主要特征
Ehcache主要特征
Ehcache缓存数据过期策略
缓存数据过期策略.png
Ehcache过期数据淘汰机制
懒淘汰机制:每次往缓存放入数据的时候,都会存一个时间,在读取的时候要和设置的时间做TTL比较来判断是否过期
Guava Cache
2.4 分布式缓存
基本介绍
Guava Cache是Google开源的Java重用工具集库Guava里的一款缓存工具
特点与功能
Guava Cache特点与功能.png
应用场景
Guava Cache应用场景.png
数据结构图
Guava Cache数据结构图
Guava Cache结构特点.png
缓存更新策略
Guava Cache 缓存更新策略
缓存回收策略
Guava Cache缓存回收策略.png
2.4 分布式缓存
指的是与应用分离的缓存组件或服务,其最大的优点是自身就是一个独立的应用,与本地应用隔离,多个应用可直接的共享缓存。
主要应用场景
分布式缓存应用场景.png
主要接入方式
分布式缓存接入方式.png
下面介绍分布式缓存常见的2大开源实现Memcached和Redis
Memcached
基本介绍
Memcached是一个高性能,分布式内存对象缓存系统,通过在内存里维护一个统一的巨大的hash表,它能够用来存储各种格式的数据,包括图像、视频、文件以及数据库检索的结果等。简单的说就是将数据调用到内存中,然后从内存中读取,从而大大提高读取速度。
特点
Memcached特点
基本架构
Memcached基本架构
缓存数据过期策略
LRU(最近最少使用)到期失效策略,在Memcached内存储数据项时,可以指定它在缓存的失效时间,默认为永久。当Memcached服务器用完分配的内时,失效的数据被首先替换,然后也是最近未使用的数据。
数据淘汰内部实现
懒淘汰机制:每次往缓存放入数据的时候,都会存一个时间,在读取
的时候要和设置的时间做TTL比较来判断是否过期
分布式集群实现
服务端并没有 “ 分布式 ” 功能。每个服务器都是完全独立和隔离的服务。 Memcached的分布式,是由客户端程序实现的
数据读写流程图
Memcached分布式集群实现
Redis
基本介绍
Redis是一个远程内存数据库(非关系型数据库),性能强劲,具有复制特性以及解决问题而生的独一无二的数据模型。它可以存储键值对与5种不同类型的值之间的映射,可以将存储在内存的键值对数据持久化到硬盘,可以使用复制特性来扩展读性能,
Redis还可以使用客户端分片来扩展写性能。内置了 复制(replication),LUA脚本(Lua scripting),LRU驱动事件(LRU eviction),事务(transactions) 和不同级别的 磁盘持久化(persistence), 并通过 Redis哨兵(Sentinel)和自动分区(Cluster)提供高可用性(high availability)。
数据模型
Redis数据模型
数据淘汰策略
Redis数据淘汰策略
数据淘汰内部实现
Redis数据淘汰内部实现.png
持久化方式
Redis持久化方式
底层实现部分解析
启动的部分过程图解
启动的部分过程
server端持久化的部分操作图解
server端持久化的部分操作
底层哈希表实现(渐进式Rehash)
初始化字典
初始化字典
新增字典元素图解
新增字典元素图解
Rehash执行流程
Rehash执行流程
缓存设计原则
Redis缓存设计原则.png
欢迎工作一到五年的Java工程师朋友们加入Java填坑之路:860113481
群内提供免费的Java架构学习资料(里面有高可用、高并发、高性能及分布式、Jvm性能调优、Spring源码,MyBatis,Netty,Redis,Kafka,Mysql,Zookeeper,Tomcat,Docker,Dubbo,Nginx等多个知识点的架构资料)合理利用自己每一分每一秒的时间来学习提升自己,不要再用"没有时间“来掩饰自己思想上的懒惰!趁年轻,使劲拼,给未来的自己一个交代!
Redis与Memcached比较
低调大师中文资讯倾力打造互联网数据资讯、行业资源、电子商务、移动互联网、网络营销平台。
持续更新报道IT业界、互联网、市场资讯、驱动更新,是最及时权威的产业资讯及硬件资讯报道平台。
转载内容版权归作者及来源网站所有,本站原创内容转载请注明来源。
- 上一篇
别让自己变为一个废掉的程序猿
一个人开始废掉的标志是什么? 有人说是无所事事,终日啃老;有人说是沉溺游戏,卧床不起;可你有没有想过,或许下一个废掉的人,刚好是看似勤奋忙碌的你。 一,沉浸在舒适区里,每天做着无效的努力 前几天半夜接到老友的电话,一个三十多岁的男人,蹲在自家黑漆漆的车库里抱头大哭。 那是他失业的第一天,早晨吃完老婆做的早餐,把孩子送到学校,假装去上班,其实不过是在公园呆坐了一天。晚上回来的时候,看着窗口亮着的灯,想想背着的300万房贷,孩子的补习费,爸妈的赡养费,一米八的大人,哭得像个委屈的孩子。 他问:“我每天那么努力地工作,怎么说失业就失业了呢” 虽然很不忍心,还是告诉了他答案:因为你在舒适区里待太久了。 不知道有多少人,像我这位朋友一样,每天从早到晚还要加班,忙得要死,做的却是毫无更新的无效努力。 明明感觉到工作对自身消耗过度了,明明感受到其他人,其他新兴行业带给你的压力了,还是沉溺在过去的辉煌或者屈服在如今的安稳里,不愿意做出任何的改变。 每个被新人赶超,焦虑到睡不着觉的深夜,都告诉自己:是时候更新了第二天却依然停留在原地。 想起张泉灵的一句话,她说:“这个时代抛弃你的时候,连一声再见都不会说...
- 下一篇
深入理解分布式系统中的缓存架构(下)
承接上一篇《理解分布式系统中的缓存架构(上)》,介绍了大型分布式系统中缓存的相关理论,常见的缓存组件以及应用场景,本文主要介绍缓存架构设计常见问题以及解决方案,业界案例。 1 分层缓存架构设计 2 缓存带来的复杂度问题 常见的问题主要包括 数据一致性 缓存穿透 缓存雪崩 缓存高可用 缓存热点 下面逐一介绍分析这些问题以及相应的解决方案。 数据一致性 因为缓存属于持久化数据的一个副本,因此不可避免的会出现数据不一致问题。导致脏读或读不到数据的情况。数据不一致,一般是因为网络不稳定或节点故障导致 问题出现的常见3个场景以及解决方案: 缓存穿透 缓存一般是Key,value方式存在,当某一个Key不存在时会查询数据库,假如这个Key,一直不存在,则会频繁的请求数据库,对数据库造成访问压力。 主要解决方案: 对结果为空的数据也进行缓存,当此key有数据后,清理缓存 一定不存在的key,采用布隆过滤器,建立一个大的Bitmap中,查询时通过该bitmap过滤 缓存雪崩 缓存高可用 缓存是否高可用,需要根据实际的场景而定,并不是所有业务都要求缓存高可用,需要结合具体业务,具体情况进行方案设计,例如...
相关文章
文章评论
共有0条评论来说两句吧...
文章二维码
点击排行
推荐阅读
最新文章
- CentOS6,CentOS7官方镜像安装Oracle11G
- SpringBoot2配置默认Tomcat设置,开启更多高级功能
- Windows10,CentOS7,CentOS8安装Nodejs环境
- Docker安装Oracle12C,快速搭建Oracle学习环境
- Windows10,CentOS7,CentOS8安装MongoDB4.0.16
- CentOS8编译安装MySQL8.0.19
- MySQL8.0.19开启GTID主从同步CentOS8
- CentOS8安装Docker,最新的服务器搭配容器使用
- CentOS8,CentOS7,CentOS6编译安装Redis5.0.7
- SpringBoot2整合Redis,开启缓存,提高访问速度