技术干货：YARN基本设计思想-低调大师

技术干货：YARN基本设计思想

2017-04-02 666

在2013年的Hadoop峰会上，YARN是一个热点话题，YARN本质上是Hadoop的新操作系统，突破了MapReduce框架的性能瓶颈。Murthy认为Hadoop和YARN的组合是企业大数据平台致胜的关键。

以下内容摘自《Hadoop技术内幕：深入解析YARN架构设计与实现原理》董西成著机械工业出版社

【YARN基本设计思想】

本节我们通过对比两代MapReduce的基本框架和编程模型来帮助读者理解YARN的基本设计思想。

2.3.1基本框架对比

在Hadoop 1.0中，JobTracker由资源管理（由TaskScheduler模块实现）和作业控制（由JobTracker中多个模块共同实现）两部分组成，具体如图2-6所示。当前Hadoop MapReduce之所以在可扩展性、资源利用率和多框架支持等方面存在不足，正是由于Had

微信关注我们

原文链接：https://yq.aliyun.com/articles/75037

转载内容版权归作者及来源网站所有！

低调大师中文资讯倾力打造互联网数据资讯、行业资源、电子商务、移动互联网、网络营销平台。持续更新报道IT业界、互联网、市场资讯、驱动更新,是最及时权威的产业资讯及硬件资讯报道平台。

张亚勤：大数据战略、管理与生态

张亚勤：微软公司资深副总裁、微软亚太研发集团主席大数据这个话题，从西到东，从IT业内到政府官员，已经火了两年，但还没有完全一致的定义。目前业界一般认同Gartner的描述，即：凡是具有“3V”特性的数据集，就是大数据。其一为Volume，极大的数据量；其二为Variety，极复杂的数据类型与数据来源；其三为Velocity，极高的数据产生、传播，以及反应速度。在我看来，组织决策者要跨越大数据时代的“数据鸿沟”，就需要具备大数据战略、大数据管理和大数据生态三大能力。大数据战略：视野，观点，价值大数据的价值已经为电商、快消、广告等多个行业的案例所证明，但挖掘出大数据的价值并不容易。我认为，企业决策者在制定大数据战略时，需要从Vision(视野)、View（观点）、Value（价值）这“新3V

2017-04-03

661

大数据，一个似乎已经被媒体传播的过于泛滥的词汇，的的确确又在逐渐影响和改变着我们的生活。也许有人认为大数据在中国仍然只是噱头，但在当前中国互联网领域，大数据以及大数据所催生出来的生产力正在潜移默化地推动业务发展，并为广大中国网民提供更加优秀的服务。优酷土豆作为国内最大的视频网站，和国内其他互联网巨头一样，率先看到大数据对公司业务的价值，早在2009年就开始使用Hadoop集群，随着这些年业务迅猛发展，优酷土豆又率先尝试了仍处于大数据前沿领域的Spark/Shark 内存计算框架，很好地解决了机器学习和图计算多次迭代的瓶颈问题，使得公司大数据分析更加完善。 MapReduce之痛提到大数据，自然不能不提Hadoop。HDFS已然成为大数据公认的存储，而MapReduce作为其搭配的数据处理框架在大数据发展的早期表现出了重大的价值。可由

2017-04-03

634

资源下载

更多资源

Mario

马里奥是站在游戏界顶峰的超人气多面角色。马里奥靠吃蘑菇成长，特征是大鼻子、头戴帽子、身穿背带裤，还留着胡子。与他的双胞胎兄弟路易基一起，长年担任任天堂的招牌角色。

腾讯云软件源

为解决软件依赖安装时官方源访问速度慢的问题，腾讯云为一些软件搭建了缓存服务。您可以通过使用腾讯云软件源站来提升依赖包的安装速度。为了方便用户自由搭建服务架构，目前腾讯云软件源站支持公网访问和内网访问。

Spring

Spring框架（Spring Framework）是由Rod Johnson于2002年提出的开源Java企业级应用框架，旨在通过使用JavaBean替代传统EJB实现方式降低企业级编程开发的复杂性。该框架基于简单性、可测试性和松耦合性设计理念，提供核心容器、应用上下文、数据访问集成等模块，支持整合Hibernate、Struts等第三方框架，其适用范围不仅限于服务器端开发，绝大多数Java应用均可从中受益。

Sublime Text

Sublime Text具有漂亮的用户界面和强大的功能，例如代码缩略图，Python的插件，代码段等。还可自定义键绑定，菜单和工具栏。Sublime Text 的主要功能包括：拼写检查，书签，完整的 Python API ， Goto 功能，即时项目切换，多选择，多窗口等等。Sublime Text 是一个跨平台的编辑器，同时支持Windows、Linux、Mac OS X等操作系统。