大型网站架构之分布式缓存-低调大师

大型网站架构之分布式缓存

2017-11-16 546

缓存是优化网站性能的第一手段。在大型网站中，缓存通常用来保存热点数据，或者保存应用上下文相关信息。比如之前提到的session服务器集群就可以用分布式缓存来搭建。当然，分布式缓存还可用于缓存数据库中的热点数据以减轻数据库的压力。

分布式缓存的架构方式通常有两种：一种是以JBoss为代表的需要同步的分布式缓存，一种是一MemCached为代表的不互相通信的分布式缓存。

JBoss在所有服务器中保存相同的缓存数据，当一台服务器的数据有更新时，会同步到其他的服务器。这种所有服务器都保存相同数据的方式导致JBoss的缓存容量有限，而且同步的代价会随着服务器数量的增加而增大。因此这种方案很少在大型网站中使用。JBoss通常将应用服务器和缓存部署在同一台服务器上，如下图：

MemCached采用一种互不通信的分布式架构，每个服务器中缓存的数据不相同。应用服务器通过一致性hash等路由算法确定数据所在位置后进行访问，缓存服务器之间互不通信，具有很好的扩展性。如下图：

下面重点说下在MemCached中使用的路由算法，由于MemCached集群中不同服务器缓存的数据不同，因此应用服务器访问数据之前需要先通过路由算法确定数据所在的缓存服务器。最容易想到的路由算法是余数hash，但是在缓存系统需要扩容时，余数hash是不可用的。

比如例子：原来有3台节点，对应的hash值为0，1，2，现在增加一台节点后变为4台节点，对应的hash值为0，1，2，3。那么0-11这12个原来已经缓存的数据，在加入新节点后的可用率为25%。就是说，向缓存系统中新加入一个节点之后，原来缓存的大部分数据变得无不可用了。这个现象在大型网站架构中是可怕的，因为新加入节点后造成的缓存低可用将导致数据库压力增大甚至有可能造成网站事故。
因此，我们把向缓存系统中添加节点之后，能够保证已经缓存的数据仍然有效作为分布式缓存中路由算法的主要设计目标。为此，有一致性hash算法。

一致性hash算法：
先构造一个长度为2^32的整数环，根据节点名称的hash值（其分布范围为0～2^32-1）将缓存服务器的节点放置在这个hash环上。计算需要缓存的数据的hash值（其分布范围为0～2^32-1），然后在hash环上顺时针找距离这个hash值最近的缓存服务器节点，就是数据要缓存的目标节点。如图：

一致性hash算法，有一个小小的问题。当向缓存中添加一个新的节点之后，根据一致性hash算法的规则，新添加的节点仅仅能够减轻一台原有服务器的压力，如下图：新添加的节点Node3只能缓解Node1的压力，而无法缓解Node0和Node2的压力。

上面提到的添加新节点后负载不均衡的问题可以通过虚拟的手段来解决：将每台物理服务器虚拟为一组虚拟服务器，之后将这组虚拟服务器放到hash环上。采用一致性hash算法找到虚拟服务器，该虚拟服务器对应的物理服务器就是目标节点。如图：

在实践中，一台物理服务器一般虚拟为一组150个虚拟服务器，具体情况再改动。

本文转自农夫山泉别墅博客园博客，原文链接：http://www.cnblogs.com/yaowen/p/6293329.html，如需转载请自行联系原作者

微信关注我们

原文链接：https://yq.aliyun.com/articles/384516

转载内容版权归作者及来源网站所有！

低调大师中文资讯倾力打造互联网数据资讯、行业资源、电子商务、移动互联网、网络营销平台。持续更新报道IT业界、互联网、市场资讯、驱动更新,是最及时权威的产业资讯及硬件资讯报道平台。

Mirantis MCP 1.0：OpenStack 和 Kubernetes 整合的第一步

1.前言 Mirantis 公司在2014年9月14日宣布收购 TCPCloud，然后宣布在2017年第一季度会推出全新的私有云产品。从那时候开始，我就一直满怀期待。终于，今年4月19日，Mirantis 宣布推出全新的 MCP 1.0。本文根据公开的文档，试着对该产品做些分析和总结，并且展望一下其未来。因为只是看文档和视频，并没有进行实际部署和操作，因此，可能有一些错误。本文会持续进行更新。 2. MCP 1.0 概况 2.1 MCP 1.0 的组成 MCP 1.0 主要包括三大部分： DriveTrain：即部署和变更系统，用于整个平台的部署（Day 1）和部署后的变更（Day 2）。云系统：包括支持物理机和虚机的 OpenStack，支持容器的 Kubernetes，分布式块和对象存储 Ceph，面向 OpenStack 集群的SDN OpenContrail，面向 Kubernetes 的 SDN Calico。 StackLight：即日志、监控和告警系统，为云平台提供运维支持。 2.2 设计出发点 Mirantis 设计 MCP 1.0 的出发点包括但不限于：基础...

2017-11-17

621

简要概述： Memcached是一款开源、高性能、分布式内存对象缓存系统，可应用各种需要缓存的场景，其主要目的是通过降低对Database的访问来加速web应用程序。它是一个基于内存的“键值对”存储，用于存储数据库调用、API调用或页面引用结果的直接数据（不做编码），如字符串、对象等。为什么是直接数据？因为数据在网络中传输是要经过流式化的，数据传递到对方那里，它如何知道这是什么类型的数据呢，所以就需要在原有数据之外在增加其他数据来修饰数据。所以直接数据就是不加任何修饰的数据。比如在读写分离一主多从的模式下，为了加速查询从服务器通常开启缓存，特别是会发生多表连接查询的时候。但是由于多个从服务器前端有一个调度器来进行负载均，所以每次同一个请求未必发送到同一个从服务器上，这样缓存就用不了了。为了解决这个问题，就引入了公共缓存，也就是Memached Memached是键值数据库，键就是其实就是搜索条件的HASH码，值就是数据。查找过程就是对比HASH码，所以只要HASH码不冲突，那么它的查找时间无论你有多少HASH码时间都是一样的，也就O1的查找速度。 Memecached是一个开发工具...

2017-11-17

511

资源下载

更多资源

优质分享App

近一个月的开发和优化，本站点的第一个app全新上线。该app采用极致压缩，本体才4.36MB。系统里面做了大量数据访问、缓存优化。方便用户在手机上查看文章。后续会推出HarmonyOS的适配版本。

Mario

马里奥是站在游戏界顶峰的超人气多面角色。马里奥靠吃蘑菇成长，特征是大鼻子、头戴帽子、身穿背带裤，还留着胡子。与他的双胞胎兄弟路易基一起，长年担任任天堂的招牌角色。

Rocky Linux

Rocky Linux（中文名：洛基）是由Gregory Kurtzer于2020年12月发起的企业级Linux发行版，作为CentOS稳定版停止维护后与RHEL（Red Hat Enterprise Linux）完全兼容的开源替代方案，由社区拥有并管理，支持x86_64、aarch64等架构。其通过重新编译RHEL源代码提供长期稳定性，采用模块化包装和SELinux安全架构，默认包含GNOME桌面环境及XFS文件系统，支持十年生命周期更新。

Sublime Text

Sublime Text具有漂亮的用户界面和强大的功能，例如代码缩略图，Python的插件，代码段等。还可自定义键绑定，菜单和工具栏。Sublime Text 的主要功能包括：拼写检查，书签，完整的 Python API ， Goto 功能，即时项目切换，多选择，多窗口等等。Sublime Text 是一个跨平台的编辑器，同时支持Windows、Linux、Mac OS X等操作系统。