eBay宣布拥抱容器，将全面整合Kubernetes和OpenStack-低调大师

eBay宣布拥抱容器，将全面整合Kubernetes和OpenStack

2017-08-01 554

在线拍卖及购物网站eBay比亚马逊(Amazon)成立晚一年，但却比Google、Facebook等众多的巨无霸要早。和其他的伙伴们一样，eBay也为大量的用户提供服务，它在190个国家拥有1.59亿活跃买家而且支撑了超过8亿条商品信息。要支持海量用户并非易事，这需要持续扩展基础架构，所以eBay一直在积极地拥抱新技术。

为了管理云端基础架构，eBay在三年前把虚拟机从VMware的ESXi Hypervisor切换到了OpenStack之上的KVM，因而成为OpenStack的早期忠实用户(eBay使用他们自行部署的OpenStack，做了大量的定制化开发)。该公司从大约300台运行“Essex(艾塞克斯)”版本OpenStack的服务器起步，很快在三年后eBay和PayPal就共同运行在“Havana(哈瓦那)”版本上，超过30万个核、支持了超过1万2千个KVM hypervisor、通过Open vSwitch虚拟交换机横跨了十多个可用性区域(Availability Zone)而且为了公司多个业务部门的需要配置了超过15个虚拟私有云。

现在，eBay开始在前端使用由Google开源的Kubernetes容器调度系统，而且eBay计划把它与OpenStack结合在一起来管理容器化的应用程序。

eBay是世界顶级零售商品牌之一，它的规模不能和诸如Google、Amazon、微软和Facebook这类的超级巨无霸相比。但是，它的基础架构也非常大，而且该公司非常重视基础架构，包括使用集装箱式的数据中心、用燃料电池供电、使用惠普和戴尔的hyperscale(超大规模)级别的主机而且经常使用定制化的超强处理器。(我们听说，eBay喜欢让它的处理器运行时温度高一点儿来获得更高的系统性能，但eBay却没回应过这个传言)。

eBay云计算技术服务团队的资深成员Ashwin Raveendran本周在KubeCon 2015会议上说他们正在尝试使用Kubernetes容器调度器来增强他们的OpenStack云。eBay是第一个愿意把OpenStack和Kubernetes结合的大型IT企业。Raveendran说eBay(在七月已经同PayPal支付服务进行了拆分)还在继续扩展它的基础架构而且当前在超过15万台服务器上使用了50多万个核。一个更直观的说法就是，这使得eBay的服务器集群规模已经同Rackspace Hosting及Softlayer这类的公有云服务提供者一样。

在eBay一个典型的可用性区域拥有5000到20000台服务器，而且服务器会被分配到500个节点的chunk中。有意思的是，根据eBay在过去公布的一些数据，在2013年(在它剥离PayPal之前)它的CPU核数呈现为线性地增长而VM以及部署在其基础架构上的项目的数量则是指数级增长。关于存储，我们猜想eBay拥有超过200PB的容量，它应该运行在相当多的服务器之上。截止今年春天，1.6PB用于Cinder块存储。大约120PB的存储用于支持Hadoop，这也使其成为世界上最大的分析平台之一。

Raveendran在eBay所就职的数据及基础架构服务部门每秒钟从应用程序和基础架构监控系统中抽取2百万个指标(metrics)，而且每天生成300TB以上的日志文件因为它每天需要处理十亿次查询并且显示200亿以上的图片。它显然是一个庞大且复杂的操作，而我们简化了一点儿。

eBay的平台栈看起来和大多数的现代企业在概念上很类似。

OpenStack统一管理服务器和存储，并抽象出计算、存储和网络等资源。当前，eBay的现有系统强制每一个应用程序实例运行在它自己专用的虚拟机中。eBay使用Kubernetes不仅仅是改为用容器来部署应用程序，而是在该公司以基础架构的云计算层为中心来改变应用程序的生命周期 (包括构建、部署、监控并且修复问等开发者和系统管理员需要执行的关键功能)。eBay计划以容器作为运行环境而Kubernetes在OpenStack之上来管理这些容器来实现更佳灵活的部署模型。eBay所采用的Kubernetes使用方式是受到了他们当前在虚拟机里部署应用程序的自主技术的启发。

当前的设置如图所示：

目前，eBay的大多数程序是用Java开发的。而且和很多基于虚拟机的商业集群一样，eBay的集群也是以静态的方式来调度的。严格地讲，这种方式意味着基础架构云中的服务器节点被分配到每一类负载中，就像这样：

在集群中静态地调度节点显然不是一个理想的状态，但是很多公司在部分应用程序存在很大峰值的情况下也同样在其私有云中静态地分配容量。“这些服务对于相应的私有云而言是很大的问题，而且当我们需要容量的时候也不能迅速扩展到公有云上去“，Raveendran解释到。“我们不得不最大化地利用我们的资源”。

(除非你能创建和Amazon类似的自己拥有的公有云，当然我们跑题了)。

但是为什么诸如Kubernetes和Mesosphere等技术越来越受关注的原因之一是当多个负载共享一台主机时他们对于服务器的开销要小得多，而且可能更重要的是运行扩展负载的容器相比于传统的服务器虚拟化能够以一种快得多的方式启动和终止。曾经老旧的软件容器技术又焕发了新生，而且现在对于那些在过去的十年里使用相当重的技术来进行服务器虚拟化的企业而言很有诱惑力。他们现在开始明白什么时候坚固异常的虚拟机隔离手段并不必要而什么时候容器就可以满足需求了。

eBay主动拥抱了容器，但也需要继续在其基础架构云中支持虚拟机，因此它计划使用OpenStack的Magnum插件，请看五月的文章了解该平台的信息，它是用来将Docker Swarm和Kubernetes容器调度器引入OpenStack。

如你所见，eBay将用Kubernetes加入Docker容器运行环境的kubelet主机代理进程替代其自主的主机代理进程。应用程序将从一个容器仓库下载并被部署到Kubernetes pod中的一台服务器，而且pod中的所有服务器在需要时可以被共同地管理。这个配置也将在eBay当前的基础架构中淘汰静态的负载均衡器和防火墙，Raveeddran称之为基础架构运维中的一个大瓶颈。当这些都完成了，动态调度看起来就是这样的：

Raveendran解释说是Kubernetes能够吸引eBay关注的原因就是因为它是开源软件，有很多人在一起协作而且eBay可以有所贡献也能从中受益。可能更重要的，在多个运行Docker容器的公有云上Kubernetes可以用于控制器层，这使得eBay在需求发起时有能力扩展到公有云而且工作负载能够从eBay的分布式私有云迁移到一个公有云中。

Raveendran说，转向Docker容器和Kubernetes来控制工作负载并不是没有挑战。如很多人多年来抱怨的，网络是OpenStack的一个挑战，特别是当前的现实问题是OpenStack并没有一个同Amazon Web服务(AWS)和Google计算引擎(Google Compute Engine)类似的虚拟路由器。但这里是eBay对于如何解决它的思考：

其想法是使用OpenStack的Neutron网络插件来创建一个Kubernetes路由器。Raveendran说在经历了一个漫长的过程后，eBay只是将用于网络三层所有路径的边界网关协议(BGP)下放到服务器主机而非仅仅停留在基础架构中的机柜顶部交换机(TOR)上。这些是eBay的巨无霸伙伴们为了简化网络已经完成的事情，它使得一个单一网络囊括了差不多10万台设备(有时会更多)。

eBay担心的另一件事是规模，当然他们正在和Kubernetes社区一起提升Kubernetes的性能。Kubernetes早期发布版本中有一些自行设定的限制，因为Google和他的社区伙伴们试图使得语法和基础适用于混合的负载以及不同于Google内部规范的硬件环境。eBay正在努力构建自己的Kubernetes集群并使用Kubernetes来抽象容器层以便于实现跨数据中心region或者私有云和公有云混合体的扩展。另外，eBay也在尝试一种方式把它的Cinder块存储与Kubernetes容器pods相结合。

本文作者：李毅

来源：51CTO

微信关注我们

原文链接：https://yq.aliyun.com/articles/184805

转载内容版权归作者及来源网站所有！

低调大师中文资讯倾力打造互联网数据资讯、行业资源、电子商务、移动互联网、网络营销平台。持续更新报道IT业界、互联网、市场资讯、驱动更新,是最及时权威的产业资讯及硬件资讯报道平台。

一步一步学习大数据：Hadoop生态系统与场景

Hadoop概要到底是业务推动了技术的发展，还是技术推动了业务的发展，这个话题放在什么时候都会惹来一些争议。随着互联网以及物联网的蓬勃发展，我们进入了大数据时代。IDC预测，到2020年,全球会有44ZB的数据量。传统存储和技术架构无法满足需求。在2013年出版的《大数据时代》一书中，定义了大数据的5V特点：Volume(大量)、Velocity(高速)、Variety(多样)、Value(低价值密度)、Veracity(真实性)。当我们把时间往回看10年，来到了2003年，这一年Google发表《Google File System》，其中提出一个GFS集群中由多个节点组成，其中主要分为两类：一个Master node，很多Chunkservers。之后于2004年Google发表论文并引入MapReduce。2006年2月，Doug Cutting等人在Nutch项目上应用GFS和 MapReduce思想,并演化为Hadoop项目。 Doug Cutting曾经说过他非常喜欢自己的程序被千万人使用的感觉，很明显，他做到了;下图就是本尊照片，帅气的一塌糊涂 2008年1月, H...

2017-08-02

528

2017年5月23日、5月25日，由F5主办的2017 F5 Agility——“构筑智慧云”高峰论坛将在北京、上海再启盛幕。本届大会将齐聚F5应用交付领域的顶尖专家与业内不同领域的行业巨头以及创新、务实的企业代表，围绕构筑科学管理云端的思维，探寻云端应用交付的价值，共建智慧云生态等热点话题展开深入探讨和交流分享，大会即将启幕，八大亮点不容错过。 F5应用交付技术精英俱乐部——与大咖面对面不再遥不可及 F5应用交付技术精英俱乐部是一个专注于ADC技术发展和实践的技术社群，一个互助、学习、交流和成长的平台。在这里可以同F5技术大咖、核心工程师、业界大拿以及同行们学习并探讨ADC领域的技术发展方向，了解业内动态，第一时间知晓并跟踪热点技术。可谓是“技术大咖面对面，技术视野豁然开朗;大咖定期一直播，技术知识唾手可得;一对一技术小灶，技术能力突飞猛进;在线技术Q&A，技术难点迎刃而解”。特色分会场——紧追当下，吸睛技术来自IT行业的专业人士将在会场内外深入剖析行业发展，聚焦应用服务、云、安全的最优交付之道，倾听特邀发言人讲述最新行业趋势，了解如何让用户的应用更快速、更智能、更安全。...

2017-08-02

545

资源下载

更多资源

优质分享App

近一个月的开发和优化，本站点的第一个app全新上线。该app采用极致压缩，本体才4.36MB。系统里面做了大量数据访问、缓存优化。方便用户在手机上查看文章。后续会推出HarmonyOS的适配版本。

Mario

马里奥是站在游戏界顶峰的超人气多面角色。马里奥靠吃蘑菇成长，特征是大鼻子、头戴帽子、身穿背带裤，还留着胡子。与他的双胞胎兄弟路易基一起，长年担任任天堂的招牌角色。

腾讯云软件源

为解决软件依赖安装时官方源访问速度慢的问题，腾讯云为一些软件搭建了缓存服务。您可以通过使用腾讯云软件源站来提升依赖包的安装速度。为了方便用户自由搭建服务架构，目前腾讯云软件源站支持公网访问和内网访问。

Rocky Linux

Rocky Linux（中文名：洛基）是由Gregory Kurtzer于2020年12月发起的企业级Linux发行版，作为CentOS稳定版停止维护后与RHEL（Red Hat Enterprise Linux）完全兼容的开源替代方案，由社区拥有并管理，支持x86_64、aarch64等架构。其通过重新编译RHEL源代码提供长期稳定性，采用模块化包装和SELinux安全架构，默认包含GNOME桌面环境及XFS文件系统，支持十年生命周期更新。