Hadoop YARN学习之核心概念(2)
Hadoop YARN学习之核心概念(2)
1. Hadoop 2.X YARN引入的新服务
1.1 新的ResourceManager纯碎作为资源调度器,是集群资源的唯一仲裁者;
1.2 用户应用程序(包括MapReduce作业),通过一个新的ApplicationMaster组件请求一定的资源,与Resource协商;
1.3 从而在集群中创建该应用的Container;
2. YARN的引入不会影响Hadoop运行MapReduce作业的能力;YARN提供了使用非MapReduce框架的新能力,为Hadoop生态系统增加了很多新的特性(如SPARK)。
3. YARN三大组件
- ResourceManager
- 是纯粹的资源调度器,它根据应用程序的资源请求严格限制系统的可以资源。
- ApplicationMaster
- 实际上是一个特定框架库的一个实例,负责与ResourceManager协商资源,并和NodeManager协同工作来执行和监控Container以及它们的资源消耗。
- Container
- Container是一种资源分配形式,是ResourceManager为ResourceRequest成功分配资源的结果。
- Container为应用程序授予在特定主机上使用资源(如内存,CPU)的权利。
4. 资源模型
4.1 YARN被设计成可以允许应用程序(通过ApplicationMaster)以共享的,安全的以及多用户租户的方式使用集群的资源。
4.2 Scheduler会分配一个Container来响应资源需求,用于满足由ApplicationMaster在ResourceRequest中提出的要求:
<资源名称,优先级,资源需求,Container数>

低调大师中文资讯倾力打造互联网数据资讯、行业资源、电子商务、移动互联网、网络营销平台。
持续更新报道IT业界、互联网、市场资讯、驱动更新,是最及时权威的产业资讯及硬件资讯报道平台。
转载内容版权归作者及来源网站所有,本站原创内容转载请注明来源。
-
上一篇
Hadoop YARN学习之Hadoop框架演进历史简述
Hadoop YARN学习之Hadoop框架演进历史简述(1) 1. Hadoop在其发展的过程中经历了多个阶段: 阶段0:Ad Hoc集群时代 标志着Hadoop的起源,集群以Ad Hoc、单用户方式建立 阶段1:Hadoop on Demand(HOD) 是进化过程中的下一个阶段,以一种通用系统的形式,在商用硬件组成的共享集群上提供和管理私有Hadoop MapReduce和HDFS实例。 阶段2:共享计算集群的黎明 始于大量Hadoop安装转向与共享HDFS实例一起的共享MapReduce集群。 阶段3:YARN的出现 用以解决以往架构的需求和缺陷 2. YARN的特性: 可扩展性 可维护性 多租户 位置感知 高集群使用率 安全和可审计的操作 可靠性和可用性 对编程模型多样的支持 灵活的资源模型 向后兼容
-
下一篇
Hadoop YARN学习之组件功能简述(3)
Hadoop YARN学习之组件功能简述(3) 1. YARN的三大组件功能简述: ResourceManager(RM)是集群的资源的仲裁者, 它有两部分:一个可插拔的调度器和一个ApplicationManager,用于管理集群中的用户作业。 NodeManager,位于每个节点上,管理该节点上用户作业和工作流。 ApplicationMaster,用户作业生命周期管理者。 是用户应用程序驻留的地方。 2. 三大组件构成了一个可扩展的、灵活的、高效的环境,来运行各种类型的大数据处理作业。 3. 组件功能协作简述 ResourceManager动态的分配特定节点来运行应用程序。 Container是绑定到特定集群节点的一组资源逻辑组合(如内存、核) 为了执行和跟踪这些资源分配,ResourceManager与运行在每个节点上的NodeManager进程交互。 基于可扩展性的需求,ResourceManager和NodeManager之间通过心跳来通信。 NodeManager负责本地可以资源的监控,故障报告以及Container生命周期的管理(如杀死和启动作业)。ResourceMa...
相关文章
文章评论
共有0条评论来说两句吧...
文章二维码
点击排行
推荐阅读
最新文章
- SpringBoot2整合Redis,开启缓存,提高访问速度
- 2048小游戏-低调大师作品
- Linux系统CentOS6、CentOS7手动修改IP地址
- CentOS8,CentOS7,CentOS6编译安装Redis5.0.7
- Docker使用Oracle官方镜像安装(12C,18C,19C)
- SpringBoot2全家桶,快速入门学习开发网站教程
- Springboot2将连接池hikari替换为druid,体验最强大的数据库连接池
- SpringBoot2编写第一个Controller,响应你的http请求并返回结果
- MySQL8.0.19开启GTID主从同步CentOS8
- SpringBoot2更换Tomcat为Jetty,小型站点的福音