Hadoop 版本演进
备注:NameNode HA : NameNode高可用 , HDFS Fedreation 分布式文件系统联盟 解决了1带的单点问题
Yarm 分布式资源管理系统,解决JobTrack单点问题
1. hadoop 1.x 版本的生态系统:
2. hadoop 2.x版本的生态系统:
对于分布式系统和框架的架构来说,一般分为两部分:
第一部分:管理层(用于管理应用层)
第二部分:应用层 (工作的)
对于HDFS,分布式文件系统:
NameNode: 属于管理层,用于管理数据的存储
SecondNameNode:也属于管理层,用于辅助管理数据的存储
DateNode:属于 应用层 ,用户进行数据存储,被NameNode管理,定时向NameNode进行工作汇报,执行NameNode分配分发的任务
对于MapReduce,分布式计算框架:
JobTrack : 属于管理层,用于管理集群的资源,对集群的任务资源进行调度,并监控任务的执行。
TaskTrack: 属于应用层,用于执行JobTrack分配分发的任务,并向JobTrack汇报执行情况。
对于hadoop 二代版本的yarm系统:
NodeManager :属于管理层,节点管理
ResourceManager:属于管理层, 资源管理
DataNode:属于应用层,被 NodeManager 和 ResourceManager管理,执行任务。

低调大师中文资讯倾力打造互联网数据资讯、行业资源、电子商务、移动互联网、网络营销平台。
持续更新报道IT业界、互联网、市场资讯、驱动更新,是最及时权威的产业资讯及硬件资讯报道平台。
转载内容版权归作者及来源网站所有,本站原创内容转载请注明来源。
- 上一篇
Scala开启之旅
嘿嘿,公司最近需要测试SPARK性能,赶上了。。 那LUA之后,SCALA也简单看看,,, 其实,我三月时买了本129元的SPARK的书,,全国只那一本哈。 package com.hengheng.scala class HelloScala { } object HelloScala { def hello(name: String) : String = { "Hello " + name } def helloscala() { println("Hello Scala, this is rocky!") } def add = (x : Int, y : Int) => x + y val sum = (x : Int, y : Int) => x + y def sum2(x : Int)(y : Int) = x + y def variableParameter(s : String*) = { s.foreach(x => println(x)) } def helloDefault(name : String = "www.sparkinchina...
- 下一篇
一文教你看懂大数据的技术生态圈 Hadoop,hive,spark
一文教你看懂大数据的技术生态圈 Hadoop,hive,spark 2015-03-19 MaXiaoYu 腾讯大数据 腾讯大数据 大数据本身是个很宽泛的概念,Hadoop生态圈(或者泛生态圈)基本上都是为了处理超过单机尺度的数据处理而诞生的。你可以把它比作一个厨房所以需要的各种工具。锅碗瓢盆,各有各的用处,互相之间又有重合。你可以用汤锅直接当碗吃饭喝汤,你可以用小刀或者刨子去皮。但是每个工具有自己的特性,虽然奇怪的组合也能工作,但是未必是最佳选择。 大数据,首先你要能存的下大数据。 传统的文件系统是单机的,不能横跨不同的机器。 HDFS(Hadoop Distributed FileSystem)的设计本质上是为了大量的数据能横跨成百上千台机器,但是你看到的是一个文件系统而不是很多文件系统。比如你说我要获取/hdfs/tmp/file1的数据,你引用的是一个文件路径,但是实际的数据存放在很多不同的机器上。你作为用户,不需要知道这些,就好比在单机上你不关心文件分散在什么磁道什么扇区一样。HDFS为你管理这些数据。存下的数据之后,你就开始考虑怎么 处理数据。虽然HDFS可以为你整体...
相关文章
文章评论
共有0条评论来说两句吧...
文章二维码
点击排行
推荐阅读
最新文章
- MySQL8.0.19开启GTID主从同步CentOS8
- SpringBoot2更换Tomcat为Jetty,小型站点的福音
- Docker安装Oracle12C,快速搭建Oracle学习环境
- CentOS7,CentOS8安装Elasticsearch6.8.6
- Docker快速安装Oracle11G,搭建oracle11g学习环境
- 2048小游戏-低调大师作品
- Docker使用Oracle官方镜像安装(12C,18C,19C)
- Linux系统CentOS6、CentOS7手动修改IP地址
- CentOS7安装Docker,走上虚拟化容器引擎之路
- CentOS7编译安装Cmake3.16.3,解决mysql等软件编译问题