hadoop cluster decommission node (下线节点,超级实用)
一、描述
为了节约成本,避免资源浪费,下线集群中的一个节点,也就是把一台云主机回收喽。
centos 6.6_64bit
hadoop 2.6.0
二、操作步骤(动态下线)
下线节点主机名如下,在hadoop用户下操作,配置文件都在conf目录下
host-10-10-10-10 ##一看就在云上是不是
1.在conf目录下创建文件
touch excludes
echo "host-10-10-10-10" > exclude
less exclude ##要有验证
2.修改配置文件hdfs-site.conf
vi hdfs-site.xml
添加如下内容,路径根据自己的实际情况
<property>
<name>dfs.hosts.exclude</name>
<value>/usr/local/RoilandGroup/hadoop-2.6.0/etc/hadoop/excludes</value>
</property>
3.修改配置文件 yarn-site.conf
添加如下内容,路径根据自己的实际情况
<property>
<name>yarn.resourcemanager.nodes.exclude-path</name>
<value>/usr/local/RoilandGroup/hadoop-2.6.0/etc/hadoop/excludes</value>
</property>
4.刷新hdfs节点(namenode active操作)
hdfs dfsadmin -refreshNodes
hdfs dfsadmin -report ##观察节点是否decommission
5.刷新nodemanager节点(resourcemanager active操作)
yarn rmadmin -refreshNodes
6.修改slave文件
注释掉主机名
#host-10-10-10-10
7.同步exclude文件和slave文件
scp exclude 到namenode/resourcemanager 的 standby节点
8.再次验证,确保是我们想要的结果,通知运维同事可以回收云主机。
三、注意事项
1.生产环境操作之前一定要做好测试
2.查看官方文档,要知道自己修改的文件对系统有多大影响,做到心里有数。

低调大师中文资讯倾力打造互联网数据资讯、行业资源、电子商务、移动互联网、网络营销平台。
持续更新报道IT业界、互联网、市场资讯、驱动更新,是最及时权威的产业资讯及硬件资讯报道平台。
转载内容版权归作者及来源网站所有,本站原创内容转载请注明来源。
- 上一篇
OpenStack HA集群4-Haproxy
1、安装haproxy # yum install -y haproxy # systemctl enable haproxy.service 2、配置haproxy日志 [root@controller1 ~]# cd /etc/rsyslog.d/ [root@controller1 rsyslog.d]# vim haproxy.conf $ModLoad imudp $UDPServerRun 514 $template Haproxy,"%msg%" local0.=info -/var/log/haproxy.log;Haproxy local0.notice -/var/log/haproxy-status.log;Haproxy local0.* ~ [root@controller1 ~]# scp /etc/rsyslog.d/haproxy.conf controller2:/etc/rsyslog.d/ haproxy.conf 100% 164 0.2KB/s 00:00 [root@controller1 ~]# sc...
- 下一篇
将openstack的Token认证信息存储在memcache中
公司线上的openstack环境运行了5个多月的时间,keystone库的token表已经增长到了31GB,这个数据量还是很大的,对于以后的数据库备份很不方便。每次管理openstack的时候,都会产生一个新的token验证,而历史token信息其实都没有用(对于公司内部私有云来说,或者对于目前我们公司来说不需要) 查看了相关文档,发现可以把token信息存储在memcache中。 编辑/etc/keystone/keystone.conf的Token字段: [token] driver = keystone.token.backends.memcache.Token 这样就把token存储的驱动修改为了memcache 安装memcache,service memcached start 然后重启keystone即可 随后我把token表直接 TRUNCATE ,token表从31GB直接变成了96KB 看了一下整个openstack数据库一共也就100多MB(接近400个computer节点) 本文转自lustlost 51CTO博客,原文链接:http://blog.51cto....
相关文章
文章评论
共有0条评论来说两句吧...
文章二维码
点击排行
推荐阅读
最新文章
- Linux系统CentOS6、CentOS7手动修改IP地址
- SpringBoot2整合MyBatis,连接MySql数据库做增删改查操作
- Springboot2将连接池hikari替换为druid,体验最强大的数据库连接池
- CentOS7安装Docker,走上虚拟化容器引擎之路
- CentOS7编译安装Cmake3.16.3,解决mysql等软件编译问题
- CentOS7,8上快速安装Gitea,搭建Git服务器
- CentOS关闭SELinux安全模块
- SpringBoot2整合Thymeleaf,官方推荐html解决方案
- Docker安装Oracle12C,快速搭建Oracle学习环境
- CentOS8,CentOS7,CentOS6编译安装Redis5.0.7