如何在web范围内实现微服务负载均衡-低调大师

如何在web范围内实现微服务负载均衡

2017-08-01 905

网上有很多介绍微服务架构最佳实践的指导手册和博客文章。虽然这些信息都很有用，但是关于如何扩展微服务的文章却不多。在一些研究和大量理论探讨下，本文介绍如何实现微服务的负载均衡。

关注边缘

当web应用程序前端客户端和基于微服务的后台服务器通信时，前端是否需要知道所有可用的微服务实例?比如，客户端真的需要知道提供web页面数据的所有的五个服务么?答案当然是不需要!

Sudhir Tonse，之前在Netflix工作，现在在Uber工作，在Scalable Mocroservices at Netflix大会上讲述了边缘服务的概念。边缘服务作为微服务基础架构的门户而存在。因此，对于前端客户端需要知道哪个微服务，这个问题，根据Sudhir的方案，每个客户端只需要和一个边缘服务直接通信就可以了。每个客户端可以有独占的边缘服务。比如，Netflix服务于上千种设备类型 -- 每种设备类型都有独占的边缘服务作为其接入点。

类似Netflix和Riot Games这样的大厂商，他们都运行在Amazon AWS上，使用弹性负载均衡(ELB)来确保边缘服务随时在线。

边缘服务之外

每个进入的请求都需要分析。多个fan-out请求被发送到构成生态系统的微服务里。一个进站请求平均会生成大概十个fan-out请求。Netflix每天会接收到近20亿请求，会生成大概200亿次内部的API调用。

Netflix如何确保其微服务能处理这么大的压力，并且保持24/7的可用性呢?再说一次，负载均衡是解决之道。但是这次并不是通过ELB。有 500个不同的微服务，你就需要配置500个ELB!这正是Netflix的工具内置负载均衡能力的原因。Netflix创建了很多库和工具，它们可以很容易得互相集成。通过将所需库直接集成到每个微服务里，就能将其自身注册到所有受管理的服务里。

不要害怕边缘服务

既然边缘服务如此重要，那么边缘服务发生故障就麻烦了，不是么?实际上，不会有问题。原因之一，边缘服务当然也必须负载均衡。这意味着访问者根本就不会注意到边缘服务的故障。其次，替代方案是什么?在monolithic应用程序环境里，每个服务都像是一个边缘服务，因此任何中央服务的故障 -- 没有配置负载均衡时 -- 都意味着整个系统的故障，对吧?

尽管如此，边缘服务处于最为精妙的服务之中，因此的确需要特别的关注。

重中之重

必须要认真考虑运行边缘服务来处理进站流量。并且一定要对边缘服务做负载均衡，无论你的云提供商的机制如何。所有内部流量必须由自己的工具处理，因为这样允许你使用最少的额外配置来运行环境。因此，最终，微服务高效扩展所要求的最重要的工具，不出意外，是负载均衡。

请保持关注

我会在下一篇博客里处理容器化的问题。需要了解的是，Docker并不是容器概念之上的唯一解决方案。

本文作者：崔婧雯

来源：51CTO

微信关注我们

原文链接：https://yq.aliyun.com/articles/185117

转载内容版权归作者及来源网站所有！

低调大师中文资讯倾力打造互联网数据资讯、行业资源、电子商务、移动互联网、网络营销平台。持续更新报道IT业界、互联网、市场资讯、驱动更新,是最及时权威的产业资讯及硬件资讯报道平台。

如何评判OpenStack是否适合你

传统架构难以保证业务关键性应用虚拟化技术稳定性，部署管理复杂。你的数据中心可能，也可能不需要一个可扩展的开源云。你的设施准备好应对架构中存储与硬件的爆发式增长吗? 每个IT厂商都希望说服数据中心管理员，他们的基础设施如果没有上云，就不是最先进的。但云技术真的会被认为是最先进的吗?什么样的云才是最先进的? 云计算提供了服务器的多功能性。在云环境中部署一台服务器十分容易，因为这是自动化的。不再需要系统管理员进行安装。取而代之的是，用户可以在几分钟内自动完成部署。 OpenStack是一款开源的云计算基础设施。它基于Linux操作系统内核，但不仅仅只适合Linux应用程序。OpenStack基础设施完全可以与其他平台进行开放使用，如Windows。整合发生在两个层级。较低级别有计算节点，它们是运行虚拟机的服务器——被称为实例。在OpenStack基础设施中，计算机点可以是任何东西：例如Linux，Windows以及VMware vSphere平台。更高层级是需要被最终用户部署的实例。任何操作系统都可以在这个层级使用OpenStack进行部署。你是否需要它? 如果你的数据中心需要云，需要应...

2017-08-02

517

戴尔技术周四宣布，Salesforce正在签署一份多年承诺，将把戴尔EMC基础设施用于全球数据中心。据戴尔称，签署的承诺是打算进一步扩大两家公司目前的关系，同时还会让Saleforce利用戴尔的Isilon扩展NAS存储阵列，数据保护产品和PowerEdge服务器。戴尔还宣布，Salesforce计划将会其25000名员工配备戴尔Latitude笔记本电脑。至于基础设施计划，目前尚不清楚数据中心签署的承诺与Salesforce采用亚马逊网络服务以及基于云的基础架构有何关系。一年前，Salesforce宣布将使用AWS来承载其核心服务，作为其在国际上基础架构扩展计划的重要一步，同时也宣布很多Salesforce的服务器都在AWS上运行，其中包括Heroku，Salesforce Q和Salesforce IoT云。据推测，Salesforce将继续把公共云和自己的数据中心结合起来使用，尽管该公司未来可能对数据中心的依赖性并不很强。 Salesforce首席执行官Marc Benioff在声明中表示他对于能够扩大公司与戴尔技术之间关系的举措倍感"激动"。Salesforce旨在"提供...

2017-08-02

656

资源下载

更多资源

优质分享App

近一个月的开发和优化，本站点的第一个app全新上线。该app采用极致压缩，本体才4.36MB。系统里面做了大量数据访问、缓存优化。方便用户在手机上查看文章。后续会推出HarmonyOS的适配版本。

Mario

马里奥是站在游戏界顶峰的超人气多面角色。马里奥靠吃蘑菇成长，特征是大鼻子、头戴帽子、身穿背带裤，还留着胡子。与他的双胞胎兄弟路易基一起，长年担任任天堂的招牌角色。

Spring

Spring框架（Spring Framework）是由Rod Johnson于2002年提出的开源Java企业级应用框架，旨在通过使用JavaBean替代传统EJB实现方式降低企业级编程开发的复杂性。该框架基于简单性、可测试性和松耦合性设计理念，提供核心容器、应用上下文、数据访问集成等模块，支持整合Hibernate、Struts等第三方框架，其适用范围不仅限于服务器端开发，绝大多数Java应用均可从中受益。

Rocky Linux

Rocky Linux（中文名：洛基）是由Gregory Kurtzer于2020年12月发起的企业级Linux发行版，作为CentOS稳定版停止维护后与RHEL（Red Hat Enterprise Linux）完全兼容的开源替代方案，由社区拥有并管理，支持x86_64、aarch64等架构。其通过重新编译RHEL源代码提供长期稳定性，采用模块化包装和SELinux安全架构，默认包含GNOME桌面环境及XFS文件系统，支持十年生命周期更新。