首页 文章 精选 留言 我的

Hadoop-2.3.0-cdh5.0.1完全分布式环境搭建（NameNode,ResourceManager HA）

2016-02-09 694
1.YARN的基础架构是什么？
2.哪一进程防止Yarn早就web攻击？
3.Zookeeper主进程是哪个？
4.如何下载cdh包？





本文搭建Hadoop CDH5.0.1 分布式系统，包括NameNode ，ResourceManger HA，忽略了Web Application Proxy 和Job HistoryServer。 
一概述 （一）HDFS

1）基础架构
（1）NameNode（Master）
  • 命名空间管理：命名空间支持对HDFS中的目录、文件和块做类似文件系统的创建、修改、删除、列表文件和目录等基本操作。
  • 块存储管理

（2）DataNode（Slaver）
namenode和client的指令进行存储或者检索block，并且周期性的向namenode节点报告它存了哪些文件的block

2）HA架构
img_64e3b6974428fcd86a1b9717b5aa71c2.png 


使用Active NameNode，Standby NameNode 两个结点解决单点问题，两个结点通过JounalNode共享状态，通过ZKFC 选举Active ，监控状态，自动备援。

（1）Active NameNode：
接受client的RPC请求并处理，同时写自己的Editlog和共享存储上的Editlog，接收DataNode的Block report, block location updates和heartbeat；

（2）Standby NameNode：
      同样会接到来自DataNode的Block report, block location updates和heartbeat，同时会从共享存储的Editlog上读取并执行这些log操作，使得自己的NameNode中的元数据（Namespcae information + Block locations map）都是和Active NameNode中的元数据是同步的。所以说Standby模式的NameNode是一个热备（Hot Standby NameNode），一旦切换成Active模式，马上就可以提供NameNode服务

（3）JounalNode：
用于Active NameNode ， Standby NameNode 同步数据，本身由一组JounnalNode结点组成，该组结点基数个，支持Paxos协议，保证高可用，是CDH5唯一支持的共享方式（相对于CDH4 促在NFS共享方式）

（4）ZKFC：
监控NameNode进程，自动备援。

（二）YARN

1）基础架构
（1）ResourceManager(RM)
接收客户端任务请求，接收和监控NodeManager(NM)的资源情况汇报，负责资源的分配与调度，启动和监控ApplicationMaster(AM)。

（2）NodeManager
节点上的资源管理，启动Container运行task计算，上报资源、container情况给RM和任务处理情况给AM。

（3）ApplicationMaster
单个Application(Job)的task管理和调度，向RM进行资源的申请，向NM发出launch Container指令，接收NM的task处理状态信息。NodeManager

（4）Web Application Proxy
用于防止Yarn遭受Web攻击，本身是ResourceManager的一部分，可通过配置独立进程。ResourceManager Web的访问基于守信用户，当Application Master运行于一个非受信用户，其提供给ResourceManager的可能是非受信连接，Web Application Proxy可以阻止这种连接提供给RM。

（5）Job History Server
NodeManager在启动的时候会初始化LogAggregationService服务, 该服务会在把本机执行的container log (在container结束的时候)收集并存放到hdfs指定的目录下. ApplicationMaster会把jobhistory信息写到hdfs的jobhistory临时目录下, 并在结束的时候把jobhisoty移动到最终目录, 这样就同时支持了job的recovery.History会启动web和RPC服务, 用户可以通过网页或RPC方式获取作业的信息

2）HA架构
img_3bebbdd1f30571700e4cd91ecc17f42f.png 


      ResourceManager HA 由一对Active，Standby结点构成，通过RMStateStore存储内部数据和主要应用的数据及标记。目前支持的可替代的RMStateStore实现有：基于内存的MemoryRMStateStore，基于文件系统的FileSystemRMStateStore，及基于zookeeper的ZKRMStateStore。
ResourceManager HA的架构模式同NameNode HA的架构模式基本一致，数据共享由RMStateStore，而ZKFC成为 ResourceManager进程的一个服务，非独立存在。

二 规划

（一）版本
组件名
版本
说明
JRE
java version "1.7.0_60"
Java(TM) SE Runtime Environment (build 1.7.0_60-b19)
Java HotSpot(TM) Client VM (build 24.60-b09, mixed mode)

Hadoop
hadoop-2.3.0-cdh5.0.1.tar.gz
主程序包

Zookeeper
zookeeper-3.4.5-cdh5.0.1.tar.gz
热切,Yarn 存储数据使用的协调服务



（二）主机规划
IP
Host
部署模块
进程
8.8.8.11
Hadoop-NN-01
NameNode
ResourceManager
NameNode
DFSZKFailoverController
ResourceManager
8.8.8.12
Hadoop-NN-02
NameNode
ResourceManager
NameNode
DFSZKFailoverController
ResourceManager
8.8.8.13
Hadoop-DN-01
Zookeeper-01
DataNode
NodeManager
Zookeeper
DataNode
NodeManager
JournalNode
QuorumPeerMain
8.8.8.14
Hadoop-DN-02
Zookeeper-02
DataNode
NodeManager
Zookeeper
DataNode
NodeManager
JournalNode
QuorumPeerMain
8.8.8.15
Hadoop-DN-03
Zookeeper-03
DataNode
NodeManager
Zookeeper
DataNode
NodeManager
JournalNode
QuorumPeerMain

各个进程解释：
  • NameNode
  • ResourceManager
  • DFSZKFC：DFS Zookeeper Failover Controller 激活Standby NameNode
  • DataNode
  • NodeManager
  • JournalNode：NameNode共享editlog结点服务（如果使用NFS共享，则该进程和所有启动相关配置接可省略）。
  • QuorumPeerMain：Zookeeper主进程


（三）目录规划
名称
路径
$HADOOP_HOME
/home/zero/hadoop/hadoop-2.3.0-cdh5.0.1
Data
$ HADOOP_HOME/data
Log
$ HADOOP_HOME/logs


三 环境准备

1）关闭防火墙

root 用户：

  2. [root@CentOS-Cluster-01 hadoop-2.3.0-cdh5.0.1]# service iptables stop
  3. iptables: Flushing firewall rules: [  OK  ]
  4. iptables: Setting chains to policy ACCEPT: filter [  OK  ]
  5. iptables: Unloading modules: [  OK  ]
复制代码




验证：

  2. [root@CentOS-Cluster-01 hadoop-2.3.0-cdh5.0.1]# service  iptables status
  3. iptables: Firewall is not running.
复制代码





2）安装JRE：略
3）安装Zookeeper ：参见Zookeeper-3.4.5-cdh5.0.1 单机模式、副本模式安装指导

4）配置SSH互信：

（1）Hadoop-NN-01创建密钥：
  1. [zero@CentOS-Cluster-01 ~]$ ssh-keygen
  2. Generating public/private rsa key pair.
  3. Enter file in which to save the key (/home/zero/.ssh/id_rsa):
  4. Created directory '/home/zero/.ssh'.
  5. Enter passphrase (empty for no passphrase):
  6. Enter same passphrase again:
  7. Your identification has been saved in /home/zero/.ssh/id_rsa.
  8. Your public key has been saved in /home/zero/.ssh/id_rsa.pub.
  9. The key fingerprint is:
  10. 28:0a:29:1d:98:56:55:db:ec:83:93:56:8a:0f:6c:ea zero@CentOS-Cluster-01
  11. The key's randomart image is:
  12. +--[ RSA 2048]----+
  13. |   .....         |
  14. | o.     +        |
  15. |o..    . +       |
  16. |.o .. ..*        |
  17. |+ . .=.*So       |
  18. |.. .o.+ . .      |
  19. |  ..   .         |
  20. |  .              |
  21. |   E             |
  22. +-----------------+
复制代码



（2）分发密钥：
  1. [zero@CentOS-Cluster-01 ~]$ ssh-copy-id -i ~/.ssh/id_rsa.pub zero@Hadoop-NN-01
  2. The authenticity of host 'hadoop-nn-01 (8.8.8.11)' can't be established.
  3. RSA key fingerprint is a6:11:09:49:8c:fe:b2:fb:49:d5:01:fa:13:1b:32:24.
  4. Are you sure you want to continue connecting (yes/no)? yes
  5. Warning: Permanently added 'hadoop-nn-01,8.8.8.11' (RSA) to the list of known hosts.
  6. puppet@hadoop-nn-01's password:
  7. Permission denied, please try again.
  8. puppet@hadoop-nn-01's password:
  9. [zero@CentOS-Cluster-01 ~][        DISCUZ_CODE_105        ]nbsp; ssh-copy-id -i ~/.ssh/id_rsa.pub zero@Hadoop-NN-01
  10. zero@hadoop-nn-01's password:
  11. Now try logging into the machine, with "ssh 'zero@Hadoop-NN-01'", and check in:

  13.   .ssh/authorized_keys

  15. to make sure we haven't added extra keys that you weren't expecting.
  16. [zero@CentOS-Cluster-01 ~][        DISCUZ_CODE_105        ]nbsp; ssh-copy-id -i ~/.ssh/id_rsa.pub zero@Hadoop-NN-02
  17. （…略…）
  18. [zero@CentOS-Cluster-01 ~][        DISCUZ_CODE_105        ]nbsp; ssh-copy-id -i ~/.ssh/id_rsa.pub zero@Hadoop-DN-01
  19. （…略…）
  20. [zero@CentOS-Cluster-01 ~][        DISCUZ_CODE_105        ]nbsp; ssh-copy-id -i ~/.ssh/id_rsa.pub zero@Hadoop-DN-02
  21. （…略…）
  22. [zero@CentOS-Cluster-01 ~][        DISCUZ_CODE_105        ]nbsp; ssh-copy-id -i ~/.ssh/id_rsa.pub zero@Hadoop-DN-03
  23. （…略…）
复制代码
分发密钥这里如出现问题，可以参考：
linux（ubuntu）ssh无密码互通、相互登录高可靠文档

CentOS6.4之图解SSH无验证双向登陆配置


（3）验证：
  1. [zero@CentOS-Cluster-01 ~]$ ssh Hadoop-NN-01
  2. Last login: Sun Jun 22 19:56:23 2014 from 8.8.8.1
  3. [zero@CentOS-Cluster-01 ~]$ exit
  4. logout
  5. Connection to Hadoop-NN-01 closed.
  6. [zero@CentOS-Cluster-01 ~]$ ssh Hadoop-NN-02
  7. Last login: Sun Jun 22 20:03:31 2014 from 8.8.8.1
  8. [zero@CentOS-Cluster-03 ~]$ exit
  9. logout
  10. Connection to Hadoop-NN-02 closed.
  11. [zero@CentOS-Cluster-01 ~]$ ssh Hadoop-DN-01
  12. Last login: Mon Jun 23 02:00:07 2014 from centos_cluster_01
  13. [zero@CentOS-Cluster-03 ~]$ exit
  14. logout
  15. Connection to Hadoop-DN-01 closed.
  16. [zero@CentOS-Cluster-01 ~]$ ssh Hadoop-DN-02
  17. Last login: Sun Jun 22 20:07:03 2014 from 8.8.8.1
  18. [zero@CentOS-Cluster-04 ~]$ exit
  19. logout
  20. Connection to Hadoop-DN-02 closed.
  21. [zero@CentOS-Cluster-01 ~]$ ssh Hadoop-DN-03
  22. Last login: Sun Jun 22 20:07:05 2014 from 8.8.8.1
  23. [zero@CentOS-Cluster-05 ~]$ exit
  24. logout
  25. Connection to Hadoop-DN-03 closed.
复制代码





5）配置/etc/hosts并分发：
  1. [root@CentOS-Cluster-01 zero]# vi /etc/hosts
  2. 127.0.0.1   localhost localhost.localdomain localhost4 localhost4.localdomain4
  3. ::1         localhost localhost.localdomain localhost6 localhost6.localdomain6
  4. 8.8.8.10 CentOS-StandAlone
  5. 8.8.8.11 CentOS-Cluster-01 Hadoop-NN-01
  6. 8.8.8.12 CentOS-Cluster-02 Hadoop-NN-02
  7. 8.8.8.13 CentOS-Cluster-03 Hadoop-DN-01 Zookeeper-01
  8. 8.8.8.14 CentOS-Cluster-04 Hadoop-DN-02 Zookeeper-02
  9. 8.8.8.15 CentOS-Cluster-05 Hadoop-DN-03 Zookeeper-03
复制代码




6）配置环境变量：vi ~/.bashrc 然后 source ~/.bashrc

  2. [zero@CentOS-Cluster-01 ~]$ vi ~/.bashrc
  3. ……

  5. # hadoop cdh5
  6. export HADOOP_HOME=/home/zero/hadoop/hadoop-2.3.0-cdh5.0.1
  7. export PATH=$PATH:$HADOOP_HOME/sbin:$HADOOP_HOME/bin
  8. [zero@CentOS-Cluster-01 ~]$ source ~/.bashrc
复制代码




四 安装

1）解压
  1. [puppet@BigData-01 cdh4.4]$ tar -xvf hadoop-2.0.0-cdh4.4.0.tar.gz
复制代码

下载地址：
CDH4包汇总
http://archive.cloudera.com/cdh4/
CDH5包汇总
http://archive.cloudera.com/cdh5/


2）修改配置文件
说明：

配置名称
类型
说明
hadoop-env.sh
Bash脚本
Hadoop运行环境变量设置
core-site.xml
xml
配置Hadoop core，如IO
hdfs-site.xml
xml
配置HDFS守护进程：NN、JN、DN
yarn-env.sh
Bash脚本
Yarn运行环境变量设置
yarn-site.xml
xml
Yarn框架配置环境
mapred-site.xml
xml
MR属性设置
capacity-scheduler.xml
xml
Yarn调度属性设置
container-executor.cfg
Cfg
Yarn Container配置
mapred-queues.xml
xml
MR队列设置
hadoop-metrics.properties
Java属性
Hadoop Metrics配置
hadoop-metrics2.properties
Java属性
Hadoop Metrics配置
slaves
Plain Text
DN节点配置
exclude
Plain Text
移除DN节点配置文件
log4j.properties

系统日志设置
configuration.xsl




（1）修改$HADOOP_HOME/etc/hadoop-env.sh：
  1. #--------------------Java Env------------------------------
  2. export JAVA_HOME="/usr/runtime/java/jdk1.7.0_60"

  4. #--------------------Hadoop Env------------------------------
  5. #export HADOOP_PID_DIR=
  6. export HADOOP_PREFIX="/home/zero/hadoop/hadoop-2.3.0-cdh5.0.1"

  8. #--------------------Hadoop Daemon Options-----------------
  9. #export HADOOP_NAMENODE_OPTS="-XX:+UseParallelGC ${HADOOP_NAMENODE_OPTS}"
  10. #export HADOOP_DATANODE_OPTS=

  12. #--------------------Hadoop Logs---------------------------
  13. #export HADOOP_LOG_DIR=
复制代码



（2）修改$HADOOP_HOME/etc/hadoop-site.xml



  4.         
  5.         
  6.                 fs.defaultFS
  7.                 hdfs://mycluster
  8.         
  9.         
  10.         
  11.                 dfs.permissions.superusergroup
  12.                 zero
  13.         
  14.         
  15.         
  16.                
  17.                 fs.trash.checkpoint.interval
  18.                 0
  19.         
  20.         
  21.                
  22.                 fs.trash.interval
  23.                 1440
  24.         

复制代码

（3）修改$HADOOP_HOME/etc/hdfs-site.xml



  4.         
  5.         
  6.                 dfs.webhdfs.enabled
  7.                 true
  8.         
  9.         
  10.                 dfs.namenode.name.dir
  11.                 /home/zero/hadoop/hadoop-2.3.0-cdh5.0.1/data/dfs/name
  12.                 namenode 存放name table(fsimage)本地目录（需要修改）
  13.         
  14.         
  15.                 dfs.namenode.edits.dir
  16.                 ${dfs.namenode.name.dir}
  17.                 namenode粗放 transaction file(edits)本地目录（需要修改）
  18.         
  19.         
  20.                 dfs.datanode.data.dir
  21.                 /home/zero/hadoop/hadoop-2.3.0-cdh5.0.1/data/dfs/data
  22.                 datanode存放block本地目录（需要修改）
  23.         
  24.         
  25.                 dfs.replication
  26.                 1
  27.         
  28.         
  29.         
  30.                 dfs.blocksize
  31.                 268435456
  32.         
  33.         
  34.         
  35.         
  36.         
  37.                 dfs.nameservices
  38.                 mycluster
  39.         
  40.         
  41.                
  42.                 dfs.ha.namenodes.mycluster
  43.                 nn1,nn2
  44.         
  45.         
  46.         
  47.                 dfs.namenode.rpc-address.mycluster.nn1
  48.                 Hadoop-NN-01:8020
  49.         
  50.         
  51.                 dfs.namenode.rpc-address.mycluster.nn2
  52.                 Hadoop-NN-02:8020
  53.         
  54.         
  55.         
  56.                 dfs.namenode.http-address.mycluster.nn1
  57.                 Hadoop-NN-01:50070
  58.         
  59.         
  60.                 dfs.namenode.http-address.mycluster.nn2
  61.                 Hadoop-NN-02:50070
  62.         

  64.         
  65.         
  66.         
  67.                 dfs.journalnode.http-address
  68.                 0.0.0.0:8480
  69.         
  70.         
  71.                 dfs.journalnode.rpc-address
  72.                 0.0.0.0:8485
  73.         
  74.         
  75.                
  76.                 <!--格式：qjournal://;;/
  77.                 dfs.namenode.shared.edits.dir
  78.                 qjournal://Hadoop-DN-01:8485;Hadoop-DN-02:8485;Hadoop-DN-03:8485/mycluster
  79.         
  80.         
  81.                
  82.                 dfs.journalnode.edits.dir
  83.                 /home/zero/hadoop/hadoop-2.3.0-cdh5.0.1/data/dfs/jn
  84.         
  85.         
  86.         
  87.                
  88.                 dfs.client.failover.proxy.provider.mycluster
  89.                 org.apache.hadoop.hdfs.server.namenode.ha.ConfiguredFailoverProxyProvider
  90.         
  91.         
  92.         
  93.         
  94.                 dfs.ha.fencing.methods
  95.                 sshfence
  96.         
  97.         
  98.                 dfs.ha.fencing.ssh.private-key-files
  99.                 /home/zero/.ssh/id_rsa
  100.         
  101.         
  102.                
  103.                 dfs.ha.fencing.ssh.connect-timeout
  104.                 30000
  105.         

  107.         
  108.         
  109.         
  110.                 dfs.ha.automatic-failover.enabled
  111.                 true
  112.         
  113.         
  114.                 ha.zookeeper.quorum
  115.                 Zookeeper-01:2181,Zookeeper-02:2181,Zookeeper-03:2181
  116.         
  117.         
  118.                
  119.                 ha.zookeeper.session-timeout.ms
  120.                 2000
  121.         

复制代码

（4）修改$HADOOP_HOME/etc/yarn-env.sh
  1. #Yarn Daemon Options
  2. #export YARN_RESOURCEMANAGER_OPTS
  3. #export YARN_NODEMANAGER_OPTS
  4. #export YARN_PROXYSERVER_OPTS
  5. #export HADOOP_JOB_HISTORYSERVER_OPTS

  7. #Yarn Logs
  8. export YARN_LOG_DIR=” /home/zero/hadoop/hadoop-2.3.0-cdh5.0.1/logs”
复制代码

（5）$HADOOP_HOEM/etc/mapred-site.xml

  2.         
  3.         
  4.                 mapreduce.framework.name
  5.                 yarn
  6.         
  7.         
  8.         
  9.         
  10.                 mapreduce.jobhistory.address
  11.                 0.0.0.0:10020
  12.         
  13.         
  14.         
  15.                 mapreduce.jobhistory.webapp.address
  16.                 0.0.0.0:19888
  17.         

复制代码

（6）修改$HADOOP_HOME/etc/yarn-site.xml

  2.         
  3.         
  4.                 yarn.nodemanager.aux-services
  5.                 mapreduce_shuffle
  6.         
  7.         
  8.                 yarn.nodemanager.aux-services.mapreduce.shuffle.class
  9.                 org.apache.hadoop.mapred.ShuffleHandler
  10.         
  11.         
  12.                 Address where the localizer IPC is.
  13.                 yarn.nodemanager.localizer.address
  14.                 0.0.0.0:23344
  15.         
  16.         
  17.                 NM Webapp address.
  18.                 yarn.nodemanager.webapp.address
  19.                 0.0.0.0:23999
  20.         

  22.         
  23.         
  24.         
  25.                 yarn.resourcemanager.connect.retry-interval.ms
  26.                 2000
  27.         
  28.         
  29.                 yarn.resourcemanager.ha.enabled
  30.                 true
  31.         
  32.         
  33.                 yarn.resourcemanager.ha.automatic-failover.enabled
  34.                 true
  35.         
  36.         
  37.         
  38.                 yarn.resourcemanager.ha.automatic-failover.embedded
  39.                 true
  40.         
  41.         
  42.         
  43.                 yarn.resourcemanager.cluster-id
  44.                 yarn-cluster
  45.         
  46.         
  47.                 yarn.resourcemanager.ha.rm-ids
  48.                 rm1,rm2
  49.         
  50.     <!--—这里RM主备结点需要单独指定,（可选）
  51.         
  52.         yarn.resourcemanager.ha.id
  53.         rm2

  55. -->
  56.         
  57.                 yarn.resourcemanager.scheduler.class
  58.                 org.apache.hadoop.yarn.server.resourcemanager.scheduler.fair.FairScheduler
  59.         
  60.         
  61.                 yarn.resourcemanager.recovery.enabled
  62.                 true
  63.         
  64.         
  65.                 yarn.app.mapreduce.am.scheduler.connection.wait.interval-ms
  66.                 5000
  67.         
  68.         
  69.         
  70.                 yarn.resourcemanager.store.class
  71.                 org.apache.hadoop.yarn.server.resourcemanager.recovery.ZKRMStateStore
  72.         
  73.         
  74.                 yarn.resourcemanager.zk-address
  75.                 Zookeeper-01:2181,Zookeeper-02:2181,Zookeeper-03:2181
  76.         
  77.         
  78.                 yarn.resourcemanager.zk.state-store.address
  79.                 Zookeeper-01:2181,Zookeeper-02:2181,Zookeeper-03:2181
  80.         
  81.         
  82.         
  83.                 yarn.resourcemanager.address.rm1
  84.                 Hadoop-NN-01:23140
  85.         
  86.         
  87.                 yarn.resourcemanager.address.rm2
  88.                 Hadoop-NN-02:23140
  89.         
  90.         
  91.         
  92.                 yarn.resourcemanager.scheduler.address.rm1
  93.                 Hadoop-NN-01:23130
  94.         
  95.         
  96.                 yarn.resourcemanager.scheduler.address.rm2
  97.                 Hadoop-NN-02:23130
  98.         
  99.         
  100.         
  101.                 yarn.resourcemanager.admin.address.rm1
  102.                 Hadoop-NN-01:23141
  103.         
  104.         
  105.                 yarn.resourcemanager.admin.address.rm2
  106.                 Hadoop-NN-02:23141
  107.         
  108.         
  109.         
  110.                 yarn.resourcemanager.resource-tracker.address.rm1
  111.                 Hadoop-NN-01:23125
  112.         
  113.         
  114.                 yarn.resourcemanager.resource-tracker.address.rm2
  115.                 Hadoop-NN-02:23125
  116.         
  117.         
  118.         
  119.                 yarn.resourcemanager.webapp.address.rm1
  120.                 Hadoop-NN-01:23188
  121.         
  122.         
  123.                 yarn.resourcemanager.webapp.address.rm2
  124.                 Hadoop-NN-02:23188
  125.         
  126.         
  127.                 yarn.resourcemanager.webapp.https.address.rm1
  128.                 Hadoop-NN-01:23189
  129.         
  130.         
  131.                 yarn.resourcemanager.webapp.https.address.rm2
  132.                 Hadoop-NN-02:23189
  133.         

复制代码

（7）修改slaves

  2. [zero@CentOS-Cluster-01  hadoop]$ vi slaves
  3. Hadoop-DN-01
  4. Hadoop-DN-02
  5. Hadoop-DN-03
复制代码

3）分发程序
  1. [zero@CentOS-Cluster-01 ~]$ scp -r /home/zero/hadoop/hadoop-2.3.0-cdh5.0.1 zero@Hadoop-NN-02: /home/zero/hadoop/
  2. …….
  3. [zero@CentOS-Cluster-01 ~]$ scp -r /home/zero/hadoop/hadoop-2.3.0-cdh5.0.1 zero@Hadoop-DN-01: /home/zero/hadoop/
  4. …….
  5. [zero@CentOS-Cluster-01 ~]$ scp -r /home/zero/hadoop/hadoop-2.3.0-cdh5.0.1 zero@Hadoop-DN-02: /home/zero/hadoop/
  6. …….
  7. [zero@CentOS-Cluster-01 ~]$ scp -r /home/zero/hadoop/hadoop-2.3.0-cdh5.0.1 zero@Hadoop-DN-03: /home/zero/hadoop/
复制代码


4）启动HDFS

（1）启动JournalNode
 格式化前需要在JournalNode结点上启动JournalNode：
  1. [zero@CentOS-Cluster-03 hadoop-2.3.0-cdh5.0.1]$ hadoop-daemon.sh start journalnode
  2. starting journalnode, logging to /home/puppet/hadoop/cdh4.4/hadoop-2.0.0-cdh4.4.0/logs/hadoop-puppet-journalnode-BigData-03.out
复制代码

验证JournalNode：
  1. [zero@CentOS-Cluster-03 hadoop-2.3.0-cdh5.0.1]$ jps
  2. 25918 QuorumPeerMain
  3. 16728 JournalNode
  4. 16772 Jps
复制代码


（2）NameNode 格式化：
 结点Hadoop-NN-01：hdfs namenode -format
  1. [zero@CentOS-Cluster-01 hadoop-2.3.0-cdh5.0.1]$ hdfs namenode -format
  2. 14/06/23 21:02:49 INFO namenode.NameNode: STARTUP_MSG:
  3. /************************************************************
  4. STARTUP_MSG: Starting NameNode
  5. STARTUP_MSG:   host = CentOS-Cluster-01/8.8.8.11
  6. STARTUP_MSG:   args = [-format]
  7. STARTUP_MSG:   version = 2.3.0-cdh5.0.1
  8. STARTUP_MSG:   classpath =…
  9. STARTUP_MSG:   build =…
  10. STARTUP_MSG:   java = 1.7.0_60
  11. ************************************************************/
  12. (…略…)
  13. 14/06/23 21:02:57 INFO common.Storage: Storage directory /home/zero/hadoop/hadoop-2.3.0-cdh5.0.1/data/dfs/name has been successfully formatted. (…略…)
  14. 14/06/23 21:02:59 INFO namenode.NameNode: SHUTDOWN_MSG:
  15. /************************************************************
  16. SHUTDOWN_MSG: Shutting down NameNode at CentOS-Cluster-01/8.8.8.11
  17. ************************************************************/
复制代码


（3）同步NameNode元数据：
 同步Hadoop-NN-01元数据到Hadoop-NN-02
主要是：dfs.namenode.name.dir，dfs.namenode.edits.dir还应该确保共享存储目录下(dfs.namenode.shared.edits.dir ) 包含NameNode 所有的元数据。

  2. [puppet@BigData-01 hadoop-2.0.0-cdh4.4.0]$ scp -r data/ zero@Hadoop-NN-02:/home/zero/hadoop/hadoop-2.3.0-cdh5.0.1
  3. seen_txid                           100%    2     0.0KB/s   00:00   
  4. VERSION                            100%  201     0.2KB/s   00:00   
  5. seen_txid                           100%    2     0.0KB/s   00:00   
  6. fsimage_0000000000000000000.md5    100%   62     0.1KB/s   00:00   
  7. fsimage_0000000000000000000         100%  121     0.1KB/s   00:00   
  8. VERSION                            100%  201     0.2KB/s   00:00
复制代码


（4）初始化ZFCK：
 创建ZNode，记录状态信息。
结点Hadoop-NN-01：hdfs zkfc -formatZK
  1. [zero@CentOS-Cluster-01 hadoop-2.3.0-cdh5.0.1]$ hdfs zkfc -formatZK
  2. 14/06/23 23:22:28 WARN util.NativeCodeLoader: Unable to load native-hadoop library for your platform... using builtin-java classes where applicable
  3. 14/06/23 23:22:28 INFO tools.DFSZKFailoverController: Failover controller configured for NameNode NameNode at Hadoop-NN-01/8.8.8.11:8020
  4. 14/06/23 23:22:28 INFO zookeeper.ZooKeeper: Client environment:zookeeper.version=3.4.5-cdh5.0.1--1, built on 05/06/2014 18:50 GMT
  5. 14/06/23 23:22:28 INFO zookeeper.ZooKeeper: Client environment:host.name=CentOS-Cluster-01
  6. 14/06/23 23:22:28 INFO zookeeper.ZooKeeper: Client environment:java.version=1.7.0_60
  7. 14/06/23 23:22:28 INFO zookeeper.ZooKeeper: Client environment:java.vendor=Oracle Corporation
  8. 14/06/23 23:22:28 INFO zookeeper.ZooKeeper: Client environment:java.home=/usr/runtime/java/jdk1.7.0_60/jre
  9. 14/06/23 23:22:28 INFO zookeeper.ZooKeeper: Client environment:java.class.path=...
  10. 14/06/23 23:22:29 INFO zookeeper.ZooKeeper: Client environment:java.library.path=/home/zero/hadoop/hadoop-2.3.0-cdh5.0.1/lib/native
  11. 14/06/23 23:22:29 INFO zookeeper.ZooKeeper: Client environment:java.io.tmpdir=/tmp
  12. 14/06/23 23:22:29 INFO zookeeper.ZooKeeper: Client environment:java.compiler=
  13. 14/06/23 23:22:29 INFO zookeeper.ZooKeeper: Client environment:os.name=Linux
  14. 14/06/23 23:22:29 INFO zookeeper.ZooKeeper: Client environment:os.arch=i386
  15. 14/06/23 23:22:29 INFO zookeeper.ZooKeeper: Client environment:os.version=2.6.32-431.el6.i686
  16. 14/06/23 23:22:29 INFO zookeeper.ZooKeeper: Client environment:user.name=zero
  17. 14/06/23 23:22:29 INFO zookeeper.ZooKeeper: Client environment:user.home=/home/zero
  18. 14/06/23 23:22:29 INFO zookeeper.ZooKeeper: Client environment:user.dir=/home/zero/hadoop/hadoop-2.3.0-cdh5.0.1
  19. 14/06/23 23:22:29 INFO zookeeper.ZooKeeper: Initiating client connection, connectString=Zookeeper-01:2181,Zookeeper-02:2181,Zookeeper-03:2181 sessionTimeout=2000 watcher=org.apache.hadoop.ha.ActiveStandbyElector$WatcherWithClientRef@150c2b0
  20. 14/06/23 23:22:29 INFO zookeeper.ClientCnxn: Opening socket connection to server CentOS-Cluster-03/8.8.8.13:2181. Will not attempt to authenticate using SASL (unknown error)
  21. 14/06/23 23:22:29 INFO zookeeper.ClientCnxn: Socket connection established to CentOS-Cluster-03/8.8.8.13:2181, initiating session
  22. 14/06/23 23:22:29 INFO zookeeper.ClientCnxn: Session establishment complete on server CentOS-Cluster-03/8.8.8.13:2181, sessionid = 0x146cc0517b30002, negotiated timeout = 4000
  23. 14/06/23 23:22:29 INFO ha.ActiveStandbyElector: Session connected.
  24. 14/06/23 23:22:30 INFO ha.ActiveStandbyElector: Successfully created /hadoop-ha/mycluster in ZK.
  25. 14/06/23 23:22:30 INFO zookeeper.ZooKeeper: Session: 0x146cc0517b30002 closed
复制代码



（5）启动
 集群启动法：Hadoop-NN-01:
  1. [zero@CentOS-Cluster-01 hadoop-2.3.0-cdh5.0.1]$ start-dfs.sh
  2. 14/04/23 01:54:58 WARN util.NativeCodeLoader: Unable to load native-hadoop library for your platform... using builtin-java classes where applicable
  3. Starting namenodes on [Hadoop-NN-01 Hadoop-NN-02]
  4. Hadoop-NN-01: starting namenode, logging to /home/puppet/hadoop/cdh4.4/hadoop-2.0.0-cdh4.4.0/logs/hadoop-puppet-namenode-BigData-01.out
  5. Hadoop-NN-02: starting namenode, logging to /home/puppet/hadoop/cdh4.4/hadoop-2.0.0-cdh4.4.0/logs/hadoop-puppet-namenode-BigData-02.out
  6. Hadoop-DN-01: starting datanode, logging to /home/puppet/hadoop/cdh4.4/hadoop-2.0.0-cdh4.4.0/logs/hadoop-puppet-datanode-BigData-03.out
  7. Hadoop-DN-02: starting datanode, logging to /home/puppet/hadoop/cdh4.4/hadoop-2.0.0-cdh4.4.0/logs/hadoop-puppet-datanode-BigData-04.out
  8. Hadoop-DN-03: starting datanode, logging to /home/puppet/hadoop/cdh4.4/hadoop-2.0.0-cdh4.4.0/logs/hadoop-puppet-datanode-BigData-05.out
  9. Starting journal nodes [Hadoop-DN-01 Hadoop-DN-02 Hadoop-DN-03]
  10. Hadoop-DN-01: starting journalnode, logging to /home/puppet/hadoop/cdh4.4/hadoop-2.0.0-cdh4.4.0/logs/hadoop-puppet-journalnode-BigData-03.out
  11. Hadoop-DN-03: starting journalnode, logging to /home/puppet/hadoop/cdh4.4/hadoop-2.0.0-cdh4.4.0/logs/hadoop-puppet-journalnode-BigData-05.out
  12. Hadoop-DN-02: starting journalnode, logging to /home/puppet/hadoop/cdh4.4/hadoop-2.0.0-cdh4.4.0/logs/hadoop-puppet-journalnode-BigData-04.out
  13. 14/04/23 01:55:29 WARN util.NativeCodeLoader: Unable to load native-hadoop library for your platform... using builtin-java classes where applicable
  14. Starting ZK Failover Controllers on NN hosts [Hadoop-NN-01 Hadoop-NN-02]
  15. Hadoop-NN-01: starting zkfc, logging to /home/puppet/hadoop/cdh4.4/hadoop-2.0.0-cdh4.4.0/logs/hadoop-puppet-zkfc-BigData-01.out
  16. Hadoop-NN-02: starting zkfc, logging to /home/puppet/hadoop/cdh4.4/hadoop-2.0.0-cdh4.4.0/logs/hadoop-puppet-zkfc-BigData-02.out
复制代码



单进程启动法：
<1>NameNode（Hadoop-NN-01，Hadoop-NN-02）：

  1. [zero@CentOS-Cluster-01 hadoop-2.3.0-cdh5.0.1]$ hadoop-daemon.sh start namenode
复制代码





<2>DataNode（Hadoop-DN-01，Hadoop-DN-02，Hadoop-DN-03）：

  1. [zero@CentOS-Cluster-01 hadoop-2.3.0-cdh5.0.1]$ hadoop-daemon.sh start datanode
复制代码




<3>JournalNode（Hadoop-DN-01，Hadoop-DN-02，Hadoop-DN-03）：
  1. [zero@CentOS-Cluster-01 hadoop-2.3.0-cdh5.0.1]$ hadoop-daemon.sh start journalnode
复制代码





<4>ZKFC（Hadoop-NN-01，Hadoop-NN-02）：
  1. [zero@CentOS-Cluster-01 hadoop-2.3.0-cdh5.0.1]$ hadoop-daemon.sh start zkfc
复制代码




（6）验证
<1>进程

NameNode：
  1. [zero@CentOS-Cluster-01 hadoop-2.3.0-cdh5.0.1]$ jps
  2. 4001 NameNode
  3. 4290 DFSZKFailoverController
  4. 4415 Jps
复制代码





DataNode：
  1. [zero@CentOS-Cluster-03 hadoop-2.3.0-cdh5.0.1]$ jps
  2. 25918 QuorumPeerMain
  3. 19217 JournalNode
  4. 19143 DataNode
  5. 19351 Jps
复制代码





<2>页面:
Active结点: http://8.8.8.10:50070

img_84a47ead39262105c176469608216ef4.png 


JSP:
img_698b9ed4f70fca7c4ba61c29f241a2ba.png 


StandBy结点：
img_e9623e20da60e2a11fdefe10d66a6be4.png 


JSP:

img_a1dfe37f1e24685f099172d4b7f3167f.png 


（7）停止:stop-dfs.sh


5）启动Yarn
（1）启动
<1>集群启动
Hadoop-NN-01启动Yarn，命令所在目录：$HADOOP_HOME/sbin
  1. [zero@CentOS-Cluster-01 hadoop]$ start-yarn.sh
  2. starting yarn daemons
  3. starting resourcemanager, logging to /home/zero/hadoop/hadoop-2.3.0-cdh5.0.1/logs/yarn-zero-resourcemanager-CentOS-Cluster-01.out
  4. Hadoop-DN-02: starting nodemanager, logging to /home/zero/hadoop/hadoop-2.3.0-cdh5.0.1/logs/yarn-zero-nodemanager-CentOS-Cluster-04.out
  5. Hadoop-DN-03: starting nodemanager, logging to /home/zero/hadoop/hadoop-2.3.0-cdh5.0.1/logs/yarn-zero-nodemanager-CentOS-Cluster-05.out
  6. Hadoop-DN-01: starting nodemanager, logging to /home/zero/hadoop/hadoop-2.3.0-cdh5.0.1/logs/yarn-zero-nodemanager-CentOS-Cluster-03.out
复制代码





Hadoop-NN-02备机启动RM：
  1. [zero@CentOS-Cluster-02 hadoop]$ yarn-daemon.sh start resourcemanager
  2. starting resourcemanager, logging to /home/zero/hadoop/hadoop-2.3.0-cdh5.0.1/logs/yarn-zero-resourcemanager-CentOS-Cluster-02.o
复制代码





<2>单进程启动
ResourceManager（Hadoop-NN-01，Hadoop-NN-02）：
  1. [zero@CentOS-Cluster-01 hadoop-2.3.0-cdh5.0.1]$ yarn-daemon.sh start resourcemanager
复制代码

DataNode（Hadoop-DN-01，Hadoop-DN-02，Hadoop-DN-03）：
  1. [zero@CentOS-Cluster-03 hadoop-2.3.0-cdh5.0.1]$ yarn-daemon.sh start nodemanager
复制代码

（2）验证

<1>进程：
JobTracker：Hadoop-NN-01，Hadoop-NN-02
  1. [zero@CentOS-Cluster-01 hadoop]$ jps
  2. 7454 NameNode
  3. 14684 Jps
  4. 14617 ResourceManager
  5. 7729 DFSZKFailoverController
复制代码





TaskTracker：Hadoop-DN-01，Hadoop-DN-02，Hadoop-DN-03
  1. [zero@CentOS-Cluster-03 ~]$ jps
  2. 8965 Jps
  3. 5228 JournalNode
  4. 5137 DataNode
  5. 2514 QuorumPeerMain
  6. 8935 NodeManager
复制代码





<2>页面
ResourceManger（Active）：8.8.8.11:23188

img_0f833415e07f16992a8c3334d15520a8.png 

ResourceManager（Standby）：8.8.8.12:23188 

img_2cf15c9ce3a56014c4b092e1c22acbe0.png 

img_9a4523e49b61e291477972a1f3e13f7c.png 

（3）停止
 Hadoop-NN-01：stop-yarn.sh
Hadoop-NN-02：yarn-daeman.sh stop resourcemanager


转载： http://shihlei.iteye.com/
上一篇 下一篇
优秀的个人博客,低调大师

微信关注我们

原文链接：https://yq.aliyun.com/articles/578914

转载内容版权归作者及来源网站所有！

低调大师中文资讯倾力打造互联网数据资讯、行业资源、电子商务、移动互联网、网络营销平台。持续更新报道IT业界、互联网、市场资讯、驱动更新,是最及时权威的产业资讯及硬件资讯报道平台。

Spark Streaming 实现思路与模块概述

Spark Streaming 实现思路与模块概述 [酷玩 Spark] Spark Streaming 源码解析系列，返回目录请猛戳这里 「腾讯·广点通」技术团队荣誉出品 本文内容适用范围： 2016.01.04 update, Spark 1.6 全系列 √ (1.6.0) 2015.11.09 update, Spark 1.5 全系列 √ (1.5.0, 1.5.1, 1.5.2) 2015.07.15 update, Spark 1.4 全系列 √ (1.4.0, 1.4.1) 2015.04.17 update, Spark 1.3 全系列 √ (1.3.0, 1.3.1) 一、基于 Spark 做 Spark Streaming 的思路 Spark Streaming 与 Spark Core 的关系可以用下面的经典部件图来表述： 在本节，我们先探讨一下基于 Spark Core 的 RDD API，如何对 streaming data 进行处理。理解下面描述的这个思路非常重要，因为基于这个思路详细展开后，就能够充分理解整个 Spark Streaming 的模块划分和代...
2016-02-04
648
上一篇

【整理】Hadoop学习资料

Hadoop视频资料: http://pan.baidu.com/s/1o7YPdTC 注:有些视频是转载的，没有解压密码！so sorry!!! Hadoop运维全纪录: http://blog.51cto.com/zt/505 加入群【clouderahadoop】：258669058不定期发布资料的word文档、个人在工作中的遇见的bug和心得! Hadoop 的调优和运维对于 Hadoop 来说是很重要的一个环节。对于大规模数据集来说更是如此。 性能调优对于 Hadoop 来说无异于打通“任督二脉”，对于 Hadoop 的计算能力会有质的提升， 而运维之于 Hadoop 来说，就好像"金钟罩，铁布衫"一般，有了稳定的运维， Hadoop 才能在海量数据中大展拳脚，两者相辅相成，缺一不可。
2016-02-10
732
下一篇

相关文章

发表评论

资源下载

更多资源
Mario

Mario

马里奥是站在游戏界顶峰的超人气多面角色。马里奥靠吃蘑菇成长，特征是大鼻子、头戴帽子、身穿背带裤，还留着胡子。与他的双胞胎兄弟路易基一起，长年担任任天堂的招牌角色。

时间: 2026-04-11 大小: 211.28KB 下载: 56次
Rocky Linux

Rocky Linux

Rocky Linux（中文名：洛基）是由Gregory Kurtzer于2020年12月发起的企业级Linux发行版，作为CentOS稳定版停止维护后与RHEL（Red Hat Enterprise Linux）完全兼容的开源替代方案，由社区拥有并管理，支持x86_64、aarch64等架构。其通过重新编译RHEL源代码提供长期稳定性，采用模块化包装和SELinux安全架构，默认包含GNOME桌面环境及XFS文件系统，支持十年生命周期更新。

时间: 2026-04-12 大小: 1.42GB 下载: 4次
Sublime Text

Sublime Text

Sublime Text具有漂亮的用户界面和强大的功能，例如代码缩略图，Python的插件，代码段等。还可自定义键绑定，菜单和工具栏。Sublime Text 的主要功能包括：拼写检查，书签，完整的 Python API ， Goto 功能，即时项目切换，多选择，多窗口等等。Sublime Text 是一个跨平台的编辑器，同时支持Windows、Linux、Mac OS X等操作系统。

时间: 2025-12-03 大小: 9.84MB 下载: 39次
WebStorm

WebStorm

WebStorm 是jetbrains公司旗下一款JavaScript 开发工具。目前已经被广大中国JS开发者誉为“Web前端开发神器”、“最强大的HTML5编辑器”、“最智能的JavaScript IDE”等。与IntelliJ IDEA同源，继承了IntelliJ IDEA强大的JS部分的功能。

时间: 2025-12-13 大小: 249.54MB 下载: 22次
手机查看

扫码在手机上查看文章

扫描二维码，手机阅读更方便

热门标签
DeepSeek Jdk25 OpenAi HarmonyOS6 Nacos3 SpringBoot4 SpringCloud Docker Kubernetes Service Mesh Redis Gemini3 Rocky

欢迎您来访！

登录后，您将获得更多功能！
热门文章
联系我们

有任何问题或合作意向欢迎联系我们

Email: 99873273@qq.com

QQ: 99873273

用户登录
用户注册