基于nginx和consul构建高可用及自动发现的docker服务架构

1、导读

如果你在大量接触或使用微服务的话，你可能会碰到一个问题：当你创建的服务数量越来越多时，这些服务之间的通信便越难管理，而且维护代价会越来越高。

针对这个问题，Consul给出了一份完美的答卷。

Consul是一套开源的分布式服务发现和配置管理系统，支持多数据中心分布式高可用。Consul是HashiCorp（ Vagrant的创建者）开发的一个服务发现与配置项目，用Go语言开发，基于 Mozilla Public License 2.0 的协议开源。

另外，架构里的另一个重要的角色则是Docker。Docker技术的不断成熟，孵化出了大量优秀的相关技术，比如docker监控，开源技术有cAdvisor、Cloud Insight或telegraf等，自定义开发方式，Docker stats、Python API或伪文件系统；docker管理，forman、kubernetes与CoreOS（都已整合各类组件），各类技术覆盖网络、监控、维护、部署、开发等方面，帮助开发、运维人员快速构建、运营Docker服务环境。

面对如此优秀和快速发展的一个生态圈技术，在企业当中，我们该如何选择并发挥Docker的强大之处？

而现实中，我们一直渴望着追求提供高质量、高可用的服务架构体系，同时减少不必要的部署和维护代价，减少容错率。

面对如此高的要求，我们提供了以下两种架构方案：

Docker+Etcd+Confd+Nginx

Docker+Consul+Nginx

2、架构设计与架构流程

Docker+Etcd+Confd + Nginx，采用松散式的组织结构，但各个组件之间的通讯是非常严密的，且扩展性更强，定制也更加灵活，这样一个架构体系在实用环境中，确实也体现了各个组件的强大功效。Etcd用于提供分享配置和服务发现，Confd通过查询Etcd，结合配置模板引擎，保持本地配置最新，同时具备定期探测机制，配置变更自动reload；Nginx提供高可用性、负载均衡以及基于TCP和HTTP应用的代理，为此提供一套完美的架构服务体系。

以上的一套架构方案确实也是当前用得比较普遍的方案，而今天我将对比以上方案，给大家提供另外一种更加高效、快捷，并且维护代价和容错率更低，分布式支持力度更强的架构方案Docker+Consul+Nginx(如图)。

使用Docker将Consul、Consul Template、Registrator和Nginx组装成一个值得信任且可扩展的服务框架，这套架构让你在这个框架中添加和移除服务，不需要重写任何配置，也不需要重启任何服务，一切都能正常运行，具体工作流程如下图。

3、架构优势

Docker+Consul+Nginx虽然看起来是三个组件的运用，但却证明是一个有机的整体。它们互相联系、互相作用，完全满足我们对高可用、高效服务架构方案的需求，是Docker生态圈中最理想的组合之一，具有以下优势：

自动发现与注册组件consul(内部的架构设计参见图Consul内部的架构设计)使用 Raft 算法来保证一致性，比复杂的Paxos 算法更直接。相比较而言，zookeeper 采用的是 Paxos，而 etcd 使用的则是 Raft；

支持多数据中心(参见图Consul多数据中心分布式集群架构)，多数据中心集群可以避免单数据中心的单点故障，zookeeper 和 etcd 均不提供多数据中心功能的支持；

自动、实时发现及无感知服务刷新，具备资源弹性，伸缩自如（通过生成、销毁容器实现）；

支持健康检查，负载能动态在可用的服务实例上进行均衡，etcd 不提供此功能；

支持足够多台Docker容器(前提架构资源足以保证性能支撑)；

支持http 和dns 协议接口，zookeeper 的集成较为复杂，etcd 只支持 http 协议；

服务规模方便进行快速调整，官方提供web管理界面，etcd 无此功能；

Consul template 搭配consul使用，支持多种接入层，如Nginx、Haproxy。

（Consul内部的架构设计）

（Consul多数据中心分布式集群架构）

4、模块介绍

服务发现模块：

服务发现的项目已经有不少，包括之前介绍的 consul，以及 etcd、skydns，以及主要关注一致性的强大的 zookeeper 等。

这些项目各有优缺点，功能上大同小异，都是要通过某种机制来获取服务信息，然后通过维护一套（分布式）数据库来存储服务的信息。在这里，选用 HashiCorp 公司的 consul 作为服务发现的管理端。

服务注册模块：

服务注册的手段有很多，从发起方是谁可以分为主动注册和被动探测，它们都对网络连通性要求较高。从短期看，主动注册方式会比较容易实现一些，应用情形更广泛；但长期维护上，被动探测方式应该是更高效的设计。

这里，我们选用 registrator，它可以通过跟本地的Docker引擎通信，来获取本地启动的容器信息，并且注册到指定的服务发现管理端。

配置更新模块：

服务被调整后，负载均衡器要想动态重新分配负载，就需要通过配置来获取更新。笔者本着追求简单和高效，使用HashiCorp 公司 的 Consul Template，可以通过监听 consul 的注册信息，当添加或者移除服务时，Consul Template可以通过连接Consul更新配置并重启应用。

负载均衡模块：

负载均衡对性能要求很高，其实并不是软件所擅长的领域，但软件方案胜在成本低、维护方便，包括 lvs、haproxy、Nginx 都是很优秀的设计方案。

这里，我们选用 nginx(consul template官方同时提供了nginx和haproxy的配置demo)。nginx 不仅是个强大的 web 代理服务器，同时在负载均衡方面表现也不俗。更关键的，新版本的 nginx 对在线升级支持做到了极致。实时配置更新更是不在话下，可以保证服务的连续性。

5、服务架设

这样一来我们应用的具体场景将会变成如下模式：

用户将会通过访问到我们的前端服务；

Nginx将会根据转发策略把请求转发给其中一个健康的服务实体；

前端服务，将会通过负载策略去访问某个后端服务。这一点也是通过Nginx的自身组件实现。

接下来，我们一步步部署实施这套架构组件(所有的组件都是基于Docker方式部署，其他部署方式参见各组件官网文档)：

Consul Template创建Docker镜像，并运行：

[root@sc ~]# docker run --rm -it yeasy/nginx-consul-template:latest bash

同时我们参考一下consul Template官方提供的Nginx配置示例：

upstream frontend { {{range service "app.frontend"}}

server {{.Address}};{{end}}

}

为此产生的nginx.conf配置模板如下：

upstream app {

least_conn;

{{range service "app.frontend"}}server {{.Address}}:{{.Port}} max_fails=3 fail_timeout=60 weight=1;

//”app.frontend”必须要和真实服务(如下面部署的“simple http server”在consul上发现的service name相同

{{else}}server 127.0.0.1:65535; # force a 502{{end}}

}

server {

listen 80 default_server;

location / {

proxy_pass http://app;

proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for;

proxy_set_header Host $host;

proxy_set_header X-Real-IP $remote_addr;

}

}

这个Docker容器将会运行Consul Template和Nginx，当服务有变化时，它将重写Nginx的app.conf文件并且重新加载Nginx。

Consul创建Docker镜像，并运行：

Consul是一个拥有DNS和HTTP API的服务。它主要负责服务发现，以及对服务的健康检测和“键-值”对存储库。

执行以下命令在Docker container中运行Consul：

docker run -it -h node \

-p 8500:8500 \

-p 8600:53/udp \

progrium/consul \

-server \

-bootstrap \

-advertise $DOCKER_IP \

-log-level debug

如果你通过浏览器能够访问$DOCKER_IP:8500，你将在控制面板上看到Consul中已经注册的所有服务。

在Docker容器启动后，Registrator配置好相应的环境变量并将这个容器注册到Consul上，示例如下：

docker run -it \

-v /var/run/docker.sock:/tmp/docker.sock \

-h $DOCKER_IP gliderlabs/registrator:latest\

consul://$DOCKER_IP:8500

最后，我们搭建一个simple http server作为真实服务的模拟：

为方便我们动态调控真实服务的数量，我们使用docker-compose来做批管理，编写docker-compose.yml如下：

#app application, scale this with docker-compose scale web=3

web:

image: yjli/simple-http-service:v2

environment:

SERVICE_NAME: SimpleHttpService

ports:

- "80"

使用docker-compose创建并运行：

[root@sc ~]# docker-compose up

通过consul的WebUI查看：

查看到simple http server已经被consul自动发现，显示正常服务个数是1个；

访问http://192.168.1.107 (模拟Nginx对外提供的服务访问地址) 可以看到一个 web 页面，显示实际访问的目标地址：

2016-10-07 09:37:44: <1> requests from to simple-server <172.17.0.5>

2016-10-07 09:37:45: <2> requests from to simple-server <172.17.0.5>

2016-10-07 09:37:46: <3> requests from to simple-server <172.17.0.5>

... ...

结果显示，我连续发送http请求，响应的真实服务只有一个，并正常响应；

调整simple http server为3个:

[root@sc ~]# docker-compose scale web=3

同样，通过consul的WebUI查看：

查看到新增的2个simple http server也被consul自动发现，显示正常服务个数是3个；

同样，访问http://192.168.1.107，显示实际访问的目标地址：

2016-10-07 09:37:51: <1> requests from to simple-server <172.17.0.5>

2016-10-07 09:37:51: <1> requests from to simple-server <172.17.0.6>

2016-10-07 09:37:51: <1> requests from to simple-server <172.17.0.7>

2016-10-07 09:37:52: <2> requests from to simple-server <172.17.0.5>

2016-10-07 09:37:52: <2> requests from to simple-server <172.17.0.6>

2016-10-07 09:37:52: <2> requests from to simple-server <172.17.0.7>

2016-10-07 09:37:53: <3> requests from to simple-server <172.17.0.5>

... ...

结果显示，笔者连续发送多次http请求，响应的真实服务目前是3个，而且响应策略是轮询方式(取决于Nginx配置策略)，并全部正常响应。

6、技术扩展

1、使用kubernetes进行docker的统一管理，再结合Docker+Consul+Nginx架构，形成一套覆盖了高可用、自动发现、自动注册、健康检测以及docker发布与创建的完整架构体系。

2、利用consul对docker实例端部署的真实服务进行监控，利用consul自动发现功能，同时弥补Docker因需求快速创建、发布、终止、停用带来监控上的难点。

总结

借助于Consul这么好用的工具，使用Docker更加强大的工具来组装服务是非常有趣和有用的，现在我们就创建一种横向可扩展的框架，并且一切都能高效运行。

本文对于Docker和Consul template以及Nginx如何结合使用做了较为详细的介绍。正如你所看到的那样，构建一套高可用及自动发现的docker服务架构就如此方便、快捷。一旦你配好了docker跟consul，其余的组件自然也就变得更加容易了。在实际的场景里我们也会通过Consul让Nginx自己注册自己，这样一来其他的服务便可以轻松地发现到Nginx实例。

文章转自：https://toutiao.io/k/uqfdho