深入理解分布式系统中的缓存架构(上)-低调大师

深入理解分布式系统中的缓存架构(上)

2018-10-10 586

本文主要介绍大型分布式系统中缓存的相关理论，常见的缓存组件以及应用场景。

1 缓存概述

缓存概述

2 缓存的分类

缓存主要分为以下四类

缓存的分类

2.1 CDN缓存

基本介绍

CDN(Content Delivery Network 内容分发网络)的基本原理是广泛采用各种缓存服务器，将这些缓存服务器分布到用户访问相对集中的地区或网络中，在用户访问网站时，利用全局负载技术将用户的访问指向距离最近的工作正常的缓存服务器上，由缓存服务器直接响应用户请求

应用场景

主要缓存静态资源，例如图片，视频

应用图

未使用CDN缓存

使用CDN缓存

优点

2.2 反向代理缓存

基本介绍

反向代理位于应用服务器机房，处理所有对WEB服务器的请求。

如果用户请求的页面在代理服务器上有缓冲的话，代理服务器直接将缓冲内容发送给用户。如果没有缓冲则先向WEB服务器发出请求，取回数据，本地缓存后再发送给用户。通过降低向WEB服务器的请求数，从而降低了WEB服务器的负载。

应用场景

一般只缓存体积较小静态文件资源，如css、js、图片

应用图

反向代理缓存应用图

开源实现

2.3 本地应用缓存

基本介绍

指的是在应用中的缓存组件，其最大的优点是应用和cache是在同一个进程内部，请求缓存非常快速，没有过多的网络开销等，在单应用不需要集群支持或者集群情况下各节点无需互相通知的场景下使用本地缓存较合适；

同时，它的缺点也是应为缓存跟应用程序耦合，多个应用程序无法直接的共享缓存，各应用或集群的各节点都需要维护自己的单独缓存，对内存是一种浪费。

应用场景

缓存字典等常用数据

缓存介质

实现

编程直接实现

Ehcache

基本介绍

Ehcache是??一种基于标准的开源缓存，可提高性能，卸载数据库并简化可伸缩性。

它是使用最广泛的基于Java的缓存，因为它功能强大，经过验证，功能齐全，并与其他流行的库和框架集成。Ehcache可以从进程内缓存扩展到使用TB级缓存的混合进程内/进程外部署

应用场景

Ehcache应用场景

Ehcache架构图

Ehcache主要特征

Ehcache缓存数据过期策略

缓存数据过期策略.png

Ehcache过期数据淘汰机制

懒淘汰机制：每次往缓存放入数据的时候，都会存一个时间，在读取的时候要和设置的时间做TTL比较来判断是否过期

Guava Cache

2.4 分布式缓存

基本介绍

Guava Cache是Google开源的Java重用工具集库Guava里的一款缓存工具

特点与功能

Guava Cache特点与功能.png

应用场景

Guava Cache应用场景.png

数据结构图

Guava Cache数据结构图

Guava Cache结构特点.png

缓存更新策略

Guava Cache 缓存更新策略

缓存回收策略

Guava Cache缓存回收策略.png

2.4 分布式缓存

指的是与应用分离的缓存组件或服务，其最大的优点是自身就是一个独立的应用，与本地应用隔离，多个应用可直接的共享缓存。

主要应用场景

分布式缓存应用场景.png

主要接入方式

分布式缓存接入方式.png

下面介绍分布式缓存常见的2大开源实现Memcached和Redis

Memcached

基本介绍

Memcached是一个高性能，分布式内存对象缓存系统，通过在内存里维护一个统一的巨大的hash表，它能够用来存储各种格式的数据，包括图像、视频、文件以及数据库检索的结果等。简单的说就是将数据调用到内存中，然后从内存中读取，从而大大提高读取速度。

特点

Memcached特点

基本架构

Memcached基本架构

缓存数据过期策略

LRU（最近最少使用）到期失效策略，在Memcached内存储数据项时，可以指定它在缓存的失效时间，默认为永久。当Memcached服务器用完分配的内时，失效的数据被首先替换，然后也是最近未使用的数据。

数据淘汰内部实现

懒淘汰机制：每次往缓存放入数据的时候，都会存一个时间，在读取

的时候要和设置的时间做TTL比较来判断是否过期

分布式集群实现

服务端并没有 “ 分布式 ” 功能。每个服务器都是完全独立和隔离的服务。 Memcached的分布式，是由客户端程序实现的

数据读写流程图

Memcached分布式集群实现

Redis

基本介绍

Redis是一个远程内存数据库（非关系型数据库），性能强劲，具有复制特性以及解决问题而生的独一无二的数据模型。它可以存储键值对与5种不同类型的值之间的映射，可以将存储在内存的键值对数据持久化到硬盘，可以使用复制特性来扩展读性能，

Redis还可以使用客户端分片来扩展写性能。内置了复制（replication），LUA脚本（Lua scripting），LRU驱动事件（LRU eviction），事务（transactions）和不同级别的磁盘持久化（persistence），并通过 Redis哨兵（Sentinel）和自动分区（Cluster）提供高可用性（high availability）。

数据模型

Redis数据模型

数据淘汰策略

Redis数据淘汰策略

数据淘汰内部实现

Redis数据淘汰内部实现.png

持久化方式

Redis持久化方式

底层实现部分解析

启动的部分过程图解

启动的部分过程

server端持久化的部分操作图解

server端持久化的部分操作

底层哈希表实现(渐进式Rehash)

初始化字典

新增字典元素图解

Rehash执行流程

缓存设计原则

Redis缓存设计原则.png

欢迎工作一到五年的Java工程师朋友们加入Java填坑之路：860113481

群内提供免费的Java架构学习资料（里面有高可用、高并发、高性能及分布式、Jvm性能调优、Spring源码，MyBatis，Netty,Redis,Kafka,Mysql,Zookeeper,Tomcat,Docker,Dubbo,Nginx等多个知识点的架构资料）合理利用自己每一分每一秒的时间来学习提升自己，不要再用"没有时间“来掩饰自己思想上的懒惰！趁年轻，使劲拼，给未来的自己一个交代！

Redis与Memcached比较

微信关注我们

原文链接：https://yq.aliyun.com/articles/651246

转载内容版权归作者及来源网站所有！

低调大师中文资讯倾力打造互联网数据资讯、行业资源、电子商务、移动互联网、网络营销平台。持续更新报道IT业界、互联网、市场资讯、驱动更新,是最及时权威的产业资讯及硬件资讯报道平台。

别让自己变为一个废掉的程序猿

一个人开始废掉的标志是什么？有人说是无所事事，终日啃老;有人说是沉溺游戏，卧床不起;可你有没有想过，或许下一个废掉的人，刚好是看似勤奋忙碌的你。一，沉浸在舒适区里，每天做着无效的努力前几天半夜接到老友的电话，一个三十多岁的男人，蹲在自家黑漆漆的车库里抱头大哭。那是他失业的第一天，早晨吃完老婆做的早餐，把孩子送到学校，假装去上班，其实不过是在公园呆坐了一天。晚上回来的时候，看着窗口亮着的灯，想想背着的300万房贷，孩子的补习费，爸妈的赡养费，一米八的大人，哭得像个委屈的孩子。他问：“我每天那么努力地工作，怎么说失业就失业了呢” 虽然很不忍心，还是告诉了他答案：因为你在舒适区里待太久了。不知道有多少人，像我这位朋友一样，每天从早到晚还要加班，忙得要死，做的却是毫无更新的无效努力。明明感觉到工作对自身消耗过度了，明明感受到其他人，其他新兴行业带给你的压力了，还是沉溺在过去的辉煌或者屈服在如今的安稳里，不愿意做出任何的改变。每个被新人赶超，焦虑到睡不着觉的深夜，都告诉自己：是时候更新了第二天却依然停留在原地。想起张泉灵的一句话，她说：“这个时代抛弃你的时候，连一声再见都不会说...

2018-10-11

456

承接上一篇《理解分布式系统中的缓存架构(上)》，介绍了大型分布式系统中缓存的相关理论，常见的缓存组件以及应用场景，本文主要介绍缓存架构设计常见问题以及解决方案，业界案例。 1 分层缓存架构设计 2 缓存带来的复杂度问题常见的问题主要包括数据一致性缓存穿透缓存雪崩缓存高可用缓存热点下面逐一介绍分析这些问题以及相应的解决方案。数据一致性因为缓存属于持久化数据的一个副本，因此不可避免的会出现数据不一致问题。导致脏读或读不到数据的情况。数据不一致，一般是因为网络不稳定或节点故障导致问题出现的常见3个场景以及解决方案：缓存穿透缓存一般是Key，value方式存在，当某一个Key不存在时会查询数据库，假如这个Key，一直不存在，则会频繁的请求数据库，对数据库造成访问压力。主要解决方案：对结果为空的数据也进行缓存，当此key有数据后，清理缓存一定不存在的key，采用布隆过滤器，建立一个大的Bitmap中，查询时通过该bitmap过滤缓存雪崩缓存高可用缓存是否高可用，需要根据实际的场景而定，并不是所有业务都要求缓存高可用，需要结合具体业务，具体情况进行方案设计，例如...

2018-10-11

648

资源下载

更多资源

优质分享App

近一个月的开发和优化，本站点的第一个app全新上线。该app采用极致压缩，本体才4.36MB。系统里面做了大量数据访问、缓存优化。方便用户在手机上查看文章。后续会推出HarmonyOS的适配版本。

Mario

马里奥是站在游戏界顶峰的超人气多面角色。马里奥靠吃蘑菇成长，特征是大鼻子、头戴帽子、身穿背带裤，还留着胡子。与他的双胞胎兄弟路易基一起，长年担任任天堂的招牌角色。

Nacos

Nacos /nɑ:kəʊs/ 是 Dynamic Naming and Configuration Service 的首字母简称，一个易于构建 AI Agent 应用的动态服务发现、配置管理和AI智能体管理平台。Nacos 致力于帮助您发现、配置和管理微服务及AI智能体应用。Nacos 提供了一组简单易用的特性集，帮助您快速实现动态服务发现、服务配置、服务元数据、流量管理。Nacos 帮助您更敏捷和容易地构建、交付和管理微服务平台。

Spring

Spring框架（Spring Framework）是由Rod Johnson于2002年提出的开源Java企业级应用框架，旨在通过使用JavaBean替代传统EJB实现方式降低企业级编程开发的复杂性。该框架基于简单性、可测试性和松耦合性设计理念，提供核心容器、应用上下文、数据访问集成等模块，支持整合Hibernate、Struts等第三方框架，其适用范围不仅限于服务器端开发，绝大多数Java应用均可从中受益。