您现在的位置是：首页 > 文章详情

Hadoop2.7实战v1.0之动态添加、删除DataNode节点及复制策略导向

日期：2016-03-04点击：714收藏

一.环境

Host 及安装软件

部署模块

进程

172.16.101.55

sht-sgmhadoopnn-01

hadoop

NameNode

ResourceManager

NameNode

DFSZKFailoverController

ResourceManager

172.16.101.56

sht-sgmhadoopnn-02

hadoop

NameNode

ResourceManager

NameNode

DFSZKFailoverController

ResourceManager

172.16.101.58

sht-sgmhadoopdn-01

hadoop、zookeeper

DataNode

NodeManager

Zookeeper

DataNode

NodeManager

JournalNode

QuorumPeerMain

172.16.101.59

sht-sgmhadoopdn-02

Hadoop、zookeeper

DataNode

NodeManager

Zookeeper

DataNode

NodeManager

JournalNode

QuorumPeerMain

172.16.101.60

sht-sgmhadoopdn-03

Hadoop、zookeeper

DataNode

NodeManager

Zookeeper

DataNode

NodeManager

JournalNode

QuorumPeerMain

172.16.101.66

sht-sgmhadoopdn-04(add/del)

Hadoop

DataNode

NodeManager

DataNode

NodeManager

###当前环境是hadoop-2.7.2+zookeeper-3.4.6完全分布式环境，HDFS HA+YARN HA。
在hdfs-site.xml文件中，dfs.replication为3。

                 dfs.replication
                3

#下面均采取动态添加、删除节点方式,而不是静态方式(相当于起初部署集群一样，停止namenode，新增一个datanode数据节点，这种方法不适合用于线上提供服务的场景，具体操作，查看参考链接)。

二.动态添加DataNode和NodeManager节点(不修改dfs.replication)【终极版】
http://blog.itpub.net/30089851/viewspace-2055168/

三.添加DataNode节点后,更改文件复制策略dfs.replication
http://blog.itpub.net/30089851/viewspace-2047825/

四.动态删除DataNode和NodeManager节点(修改dfs.replication) 【终极版】
http://blog.itpub.net/30089851/viewspace-2049648/