Alibaba Sentinel 限流与熔断初探(技巧篇)
温馨提示:源码分析 Alibaba Sentinel 专栏开始连载,本文展示如何学习一个全新的技术的方法。该专栏基于 1.7.0 版本。
在学习一个新技术或新框架时,建议先查看其官方文档, Sentinel 官方文档链接如下:官方文档,以获得对其形成一个整体的认识。
1、Sentinel 是什么 ?主要能解决什么问题?
按照官方的定义,Sentinel 意为分布式系统的流量防卫兵,主要提供限流、熔断等服务治理相关的功能。
服务的动态注册、服务发现是 SOA、微服务架构体系中首先需要解决的基本问题,服务治理是 SOA 领域又一重要课题,而 dubbo 框架只提供了一些基本的服务治理能力,例如限制服务并发调用数、配置合适的业务线程数量等,但熔断相关的功能就涉及的较少。
Sentinel 将作为 Dubbo 生态的重要一员,将集中解决服务治理相关的课题,服务限流与熔断又是服务治理首先要解决的课题。
那什么是限流与熔断呢?
限流:我们通常使用TPS对流量来进行描述,限流就是现在服务被调用的并发TPS,从而对系统进行自我保护。
熔断:就是当系统中某一个服务出现性能瓶颈是,对这个服务的调用进行快速失败,避免造成连锁反应,从而影响整个链路的调用。
2、限流与熔断的使用场景
限流还是比较好理解,例如一个项目在上线之前经过性能测试评估,例如服务在 TPS 达到 1w/s 时系统资源利用率飙升,与此同时响应时间急剧增大,那我们就要控制该服务的调用TPS,超过该 TPS 的流量就需要进行干预,可以采取拒绝、排队等策略,实现流量的削峰填谷。
还有一个场景,例如一下开放平台,对接口进行收费,免费用户要控制调用TPS,账户的等级不同,允许调用的TPS也不同,这种情况就非常适合限流。
那熔断的使用场景呢?我们首先来看一下如下的分布式架构。
例如应用A 部署了3台机器,如果由于某种原因,例如线程池 hold 住,导致发送到它上面的请求会出现超时而报错,由于该进程并未宕机,请求还是会通过负载算法请求出现故障的机器,出现整个1/3的请求出现超时报错,影响整个系统的可用性?也就是其中一台故障会对整个服务质量产生严重的影响,虽然是集群部署,但无法达到高可用性。那如何解决该问题?如果在调用方(API-Center) 对异常进行统计,发现发往某一台机器的错误数或错误率达到设定的值,就在一定的世界间隔内不继续发往该机器,转而发送给集群内正常的节点,这样就实现了高可用,这就是所谓的熔断机制。
有了上面的基本认识,接下来会进行一些阅读源码的准备,为后面的源码分析 Sentinel 打下坚实的基础。
3、Sentinel 源码结构
Sentinel 的核心模块说明如下:
- sentinel-core
Sentinel 核心模块,实现限流、熔断等基本能力。 - sentinel-dashboard
Sentinel 可视化控制台,提供基本的管理界面,配置限流、熔断规则等,展示监控数据等。 -
sentinel-adapter
Sentinel 适配,Sentinel-core 模块提供的是限流等基本API,主要是提供给应用自己去显示调用,对代码有侵入性,故该模块对主流框架进行了适配,目前已适配的模块如下:- sentinel-apache-dubbo-adapter
对 Apache Dubbo 版本进行适配,这样应用只需引入 sentinel-apache-dubbo-adapter 包即可对 dubbo 服务进行流控与熔断,大家可以思考会利用 Dubbo 的哪个功能特性。 - sentinel-dubbo-adapter
对 Alibaba Dubbo 版本进行适配。 - sentinel-grpc-adapter
对 GRPC 进行适配。 - sentinel-spring-webflux-adapter
对响应式编程框架 webflux 进行适配。 - sentinel-web-servlet
对 servlet 进行适配,例如 Spring MVC。 - sentinel-zuul-adapter
对 zuul 网关进行适配。
- sentinel-apache-dubbo-adapter
- sentinel-cluster
提供集群模式的限流与熔断支持,因为通常一个应用会部署在多台机器上组成应用集群。 -
sentinel-transport
网络通讯模块,提供 Sentinel 节点与 sentinel-dashboard 的通讯支持,主要有如下两种实现。- sentinel-transport-netty-http
基于 Netty 实现的 http 通讯模式。 - sentinel-transport-simple-http
简单的 http 实现方式。
- sentinel-transport-netty-http
-
sentinel-extension
Sentinel 扩展模式。主要提供了如下扩展(高级)功能:- sentinel-annotation-aspectj
提供基于注解的方式来定义资源等。 - sentinel-parameter-flow-control
提供基于参数的限流(热点限流)。 - sentinel-datasource-extension
限流规则、熔断规则的存储实现,默认是存储在内存中。 - sentinel-datasource-apollo
基于 apollo 配置中心实现限流规则、熔断规则的存储,动态推送生效机制。 - sentinel-datasource-consul
基于 consul 实现限流规则、熔断规则的存储,动态推送生效机制。 - sentinel-datasource-etcd
基于 etcd 实现限流规则、熔断规则的存储,动态推送生效机制。 - sentinel-datasource-nacos
基于 nacos 实现限流规则、熔断规则的存储,动态推送生效机制。 - sentinel-datasource-redis
基于 redis 实现限流规则、熔断规则的存储,动态推送生效机制。 - sentinel-datasource-spring-cloud-config
基于 spring-cloud-config 实现限流规则、熔断规则的存储,动态推送生效机制。 - sentinel-datasource-zookeeper
基于 zookeeper 实现限流规则、熔断规则的存储,动态推送生效机制。
- sentinel-annotation-aspectj
4、在 IntelliJ IDEA 中运行 Sentine Demo
在 sentinel-demo 模块下提供了很多示例,Seninel 一开始是为 Dubbo 而生的,故我们选取一下 sentinel-demo-apache-dubbo 为本次演示的示例。
注意:该版本需要引入的 apache dubbo 版本需要修改为 2.7.2。
<dependency> <groupId>org.apache.dubbo</groupId> <artifactId>dubbo</artifactId> <version>2.7.2</version> </dependency>
Step1:先启动 sentinel-dashboard,启动参数配置如下:
sentinel-demo-apache-dubbo 模块如下所示:
先启动服务提供者,其配置参数如下:
然后启动服务消费者,其配置参数如下:
启动后,我们能看到消费者会出现报错,因为触发了限流,我们可以通过控制台查看接入应用的信息,例如输入:http://localhost:8080
部分截图如下:
可以在控制台动态添加限流、熔断等规则配置,然后接入的客户端将能在不启动应用的情况下生效。
默认情况下,sentinel-dashboard 中的规则是存储在内存中,重启后就会丢失,因此 Sentinel 提供了很多种数据源的实现,例如 sentinel-datasource-zookeeper,这部分内容随着该专栏的陆续更新,将会对该机制进行介绍。
作者信息:丁威,《RocketMQ技术内幕》作者,目前担任中通科技技术平台部资深架构师,维护 中间件兴趣圈公众号,目前主要发表了源码阅读java集合、JUC(java并发包)、Netty、ElasticJob、Mycat、Dubbo、RocketMQ、mybaits等系列源码。点击链接:加入笔者的知识星球,一起探讨高并发、分布式服务架构,分享阅读源码心得。
低调大师中文资讯倾力打造互联网数据资讯、行业资源、电子商务、移动互联网、网络营销平台。
持续更新报道IT业界、互联网、市场资讯、驱动更新,是最及时权威的产业资讯及硬件资讯报道平台。
转载内容版权归作者及来源网站所有,本站原创内容转载请注明来源。
- 上一篇
YouTube玩转的自动字幕,为什么被国内视频网站“主动错过”?
云栖号资讯:【点击查看更多行业资讯】在这里您可以找到不同行业的第一手的上云资讯,还在等什么,快来! 成为中国YouTube,这估计是每一家国内视频网站都曾经设想过的目标。 现在,无论是从全球市场规模、还是从营收规模上来说,YouTube都已经是一个庞然大物。而在国内,至今已难以找到一家能够与YouTube实力相当,甚至说模式相似的视频网站了。 差异是如何产生的,已经成为一个可以写成商业专著的选题了。而这一次我们则关心一个更为细节的产品技术问题,那就是在YouTube上早已实现的自动字幕功能,为何没有在国内的主流的视频网站上出现? 据报道,在2017年初,以UGC起家的YouTube已经为10亿条视频提供了自动添加字幕的服务,使用者每天的播放次数超过 1500 万次,而且目前已支持全球10种语言的自动字幕加载,以及支持包括简体中文在内的上百种语言的机器翻译。 那么这一自动字幕的功能为何没有被我们国内的视频网站“Copy”? 也许你第一反应会想到技术原因。也是也不全是。毕竟近几年,我国在自动语言识别上面的技术早已成熟,在视频网站上应用也许早已不成问题。 “是不为也,非不能也。”如果孟老夫子...
- 下一篇
从零搭建一个SpringCloud项目之Feign搭建
从零搭建一个SpringCloud项目之Feign搭建 工程简述 目的:实现trade服务通过feign调用user服务的功能。因为trade服务会用到user里的一些类和接口,所以抽出了其他服务需要的东西到user-api工程。避免trade直接依赖user导致依赖多余的东西。 一、创建User接口工程user-api新建一个module,取名为study-user-api引入pom文件 <dependency> <groupId>org.springframework.cloud</groupId> <artifactId>spring-cloud-starter-openfeign</artifactId> </dependency> </dependencies> 创建一个User实体类编写一个UserApi接口,value里的study-user对应后面user实现工程的spring.application.name的值@FeignClient(value = "study-user")pub...
相关文章
文章评论
共有0条评论来说两句吧...
文章二维码
点击排行
推荐阅读
最新文章
- CentOS8,CentOS7,CentOS6编译安装Redis5.0.7
- Hadoop3单机部署,实现最简伪集群
- CentOS7编译安装Gcc9.2.0,解决mysql等软件编译问题
- CentOS8安装MyCat,轻松搞定数据库的读写分离、垂直分库、水平分库
- MySQL8.0.19开启GTID主从同步CentOS8
- SpringBoot2配置默认Tomcat设置,开启更多高级功能
- SpringBoot2整合Thymeleaf,官方推荐html解决方案
- Docker快速安装Oracle11G,搭建oracle11g学习环境
- SpringBoot2编写第一个Controller,响应你的http请求并返回结果
- Jdk安装(Linux,MacOS,Windows),包含三大操作系统的最全安装