Hadoop集群(四) Hadoop升级-低调大师

Hadoop集群(四) Hadoop升级

2017-11-20 547

Hadoop前面安装的集群是2.6版本，现在升级到2.7版本。

注意，这个集群上有运行Hbase，所以，升级前后，需要启停Hbase。

更多安装步骤，请参考：

Hadoop集群(一) Zookeeper搭建

Hadoop集群(二) HDFS搭建

Hadoop集群(三) Hbase搭建

升级步骤如下：

集群IP列表

 
         Namenode:
        
         192.168.143.46
        
         192.168.143.103
        
         Journalnode:
        
         192.168.143.101
        
         192.168.143.102
        
         192.168.143.103
        
         Datanode&Hbase regionserver:
        
         192.168.143.196
        
         192.168.143.231
        
         192.168.143.182
        
         192.168.143.235
        
         192.168.143.41
        
         192.168.143.127
        
         Hbase master:
        
         192.168.143.103
        
         192.168.143.101
        
         Zookeeper:
        
         192.168.143.101
        
         192.168.143.102
        
         192.168.143.103

1. 首先确定hadoop运行的路径，将新版本的软件分发到每个节点的这个路径下，并解压。

 
         # ll /usr/
         local
         /hadoop/ 
        
         total 493244
        
         drwxrwxr-x 9 root root      4096 Mar 21  2017 hadoop-release ->hadoop-2.6.0-EDH-0u1-SNAPSHOT-HA-SECURITY
        
         drwxr-xr-x 9 root root      4096 Oct 11 11:06 hadoop-2.7.1
        
         -rw-r
         --r-- 1 root root 194690531 Oct  9 10:55 hadoop-2.7.1.tar.gz 
        
         drwxrwxr-x 7 root root      4096 May 21  2016 hbase-1.1.3
        
         -rw-r
         --r-- 1 root root 128975247 Apr 10  2017 hbase-1.1.3.tar.gz 
        
         lrwxrwxrwx 1 root root        29 Apr 10  2017 hbase-release -> /usr/
         local
         /hadoop/hbase-1.1.3

由于是升级，配置文件完全不变，将原hadoop-2.6.0下的etc/hadoop路径完全拷贝/替换到hadoop-2.7.1下。

至此，升级前的准备就已经完成了。

下面开始升级操作过程。全程都是在一个中转机上执行的命令，通过shell脚本执行，省去频繁ssh登陆的操作。

## 停止hbase，hbase用户执行

2. 停止Hbase master，hbase用户执行

状态检查，确认master，先停standby master

 
         http://192.168.143.101:16010/master-status

 
         master:
        
         ssh -t -q 192.168.143.103  sudo su -l hbase -c 
         "/usr/local/hadoop/hbase-release/bin/hbase-daemon.sh\ stop\ master" 
        
         ssh -t -q 192.168.143.103  sudo su -l hbase -c 
         "jps" 
        
         ssh -t -q 192.168.143.101  sudo su -l hbase -c 
         "/usr/local/hadoop/hbase-release/bin/hbase-daemon.sh\ stop\ master" 
        
         ssh -t -q 192.168.143.101  sudo su -l hbase -c 
         "jps"

3. 停止Hbase regionserver，hbase用户执行

 
         ssh -t -q 192.168.143.196  sudo su -l hbase -c 
         "/usr/local/hadoop/hbase-release/bin/hbase-daemon.sh\ stop\ regionserver" 
        
         ssh -t -q 192.168.143.231  sudo su -l hbase -c 
         "/usr/local/hadoop/hbase-release/bin/hbase-daemon.sh\ stop\ regionserver" 
        
         ssh -t -q 192.168.143.182  sudo su -l hbase -c 
         "/usr/local/hadoop/hbase-release/bin/hbase-daemon.sh\ stop\ regionserver" 
        
         ssh -t -q 192.168.143.235  sudo su -l hbase -c 
         "/usr/local/hadoop/hbase-release/bin/hbase-daemon.sh\ stop\ regionserver" 
        
         ssh -t -q 192.168.143.41   sudo su -l hbase -c 
         "/usr/local/hadoop/hbase-release/bin/hbase-daemon.sh\ stop\ regionserver" 
        
         ssh -t -q 192.168.143.127  sudo su -l hbase -c 
         "/usr/local/hadoop/hbase-release/bin/hbase-daemon.sh\ stop\ regionserver"

检查运行状态

 
         ssh -t -q 192.168.143.196  sudo su -l hbase -c 
         "jps" 
        
         ssh -t -q 192.168.143.231  sudo su -l hbase -c 
         "jps" 
        
         ssh -t -q 192.168.143.182  sudo su -l hbase -c 
         "jps" 
        
         ssh -t -q 192.168.143.235  sudo su -l hbase -c 
         "jps" 
        
         ssh -t -q 192.168.143.41   sudo su -l hbase -c 
         "jps" 
        
         ssh -t -q 192.168.143.127  sudo su -l hbase -c 
         "jps"

## 停止服务--HDFS

4. 先确认，active的namenode,网页确认.后续要先启动这个namenode

 
         https://192.168.143.46:50470/dfshealth.html#tab-overview

5. 停止NameNode，hdfs用户执行

NN: 先停standby namenode

 
         ssh -t -q 192.168.143.103  sudo su -l hdfs -c 
         "/usr/local/hadoop/hadoop-release/sbin/hadoop-daemon.sh\ stop\ namenode" 
        
         ssh -t -q 192.168.143.46   sudo su -l hdfs -c 
         "/usr/local/hadoop/hadoop-release/sbin/hadoop-daemon.sh\ stop\ namenode" 
        
         检查状态
        
         ssh -t -q 192.168.143.103  sudo su -l hdfs -c 
         "jps" 
        
         ssh -t -q 192.168.143.46   sudo su -l hdfs -c 
         "jps"

6. 停止DataNode，hdfs用户执行

 
         ssh -t -q 192.168.143.196  sudo su -l hdfs -c 
         "/usr/local/hadoop/hadoop-release/sbin/hadoop-daemon.sh\ stop\ datanode" 
        
         ssh -t -q 192.168.143.231  sudo su -l hdfs -c 
         "/usr/local/hadoop/hadoop-release/sbin/hadoop-daemon.sh\ stop\ datanode" 
        
         ssh -t -q 192.168.143.182  sudo su -l hdfs -c 
         "/usr/local/hadoop/hadoop-release/sbin/hadoop-daemon.sh\ stop\ datanode" 
        
         ssh -t -q 192.168.143.235  sudo su -l hdfs -c 
         "/usr/local/hadoop/hadoop-release/sbin/hadoop-daemon.sh\ stop\ datanode" 
        
         ssh -t -q 192.168.143.41   sudo su -l hdfs -c 
         "/usr/local/hadoop/hadoop-release/sbin/hadoop-daemon.sh\ stop\ datanode" 
        
         ssh -t -q 192.168.143.127  sudo su -l hdfs -c 
         "/usr/local/hadoop/hadoop-release/sbin/hadoop-daemon.sh\ stop\ datanode"

7. 停止ZKFC，hdfs用户执行

 
         ssh -t -q 192.168.143.46   sudo su -l hdfs -c 
         "/usr/local/hadoop/hadoop-release/sbin/hadoop-daemon.sh\ stop\ zkfc" 
        
         ssh -t -q 192.168.143.103  sudo su -l hdfs -c 
         "/usr/local/hadoop/hadoop-release/sbin/hadoop-daemon.sh\ stop\ zkfc"

8.停止JournalNode，hdfs用户执行

 
         JN:
        
         ssh -t -q 192.168.143.101  sudo su -l hdfs -c 
         "/usr/local/hadoop/hadoop-release/sbin/hadoop-daemon.sh\ stop\ journalnode" 
        
         ssh -t -q 192.168.143.102  sudo su -l hdfs -c 
         "/usr/local/hadoop/hadoop-release/sbin/hadoop-daemon.sh\ stop\ journalnode" 
        
         ssh -t -q 192.168.143.103  sudo su -l hdfs -c 
         "/usr/local/hadoop/hadoop-release/sbin/hadoop-daemon.sh\ stop\ journalnode"

### 备份NameNode的数据,由于生产环境，原有的数据需要备份。以备升级失败回滚。

9. 备份namenode1

 
         ssh -t -q 192.168.143.46 
         "cp -r /data1/dfs/name    /data1/dfs/name.bak.20171011-2;ls -al /data1/dfs/;du -sm /data1/dfs/*" 
        
         ssh -t -q 192.168.143.46 
         "cp -r /data2/dfs/name    /data2/dfs/name.bak.20171011-2;ls -al /data1/dfs/;du -sm /data1/dfs/*"

10. 备份namenode2

 
         ssh -t -q 192.168.143.103 
         "cp -r /data1/dfs/name 
        
         /data1/dfs/name.bak.20171011-2;ls -al /data1/dfs/;du -sm /data1/dfs/*"

11. 备份journal

 
         ssh -t -q 192.168.143.101 
         "cp -r /data1/journalnode   /data1/journalnode.bak.20171011;ls -al /data1/dfs/;du -sm /data1/*" 
        
         ssh -t -q 192.168.143.102 
         "cp -r /data1/journalnode   /data1/journalnode.bak.20171011;ls -al /data1/dfs/;du -sm /data1/*" 
        
         ssh -t -q 192.168.143.103 
         "cp -r /data1/journalnode   /data1/journalnode.bak.20171011;ls -al /data1/dfs/;du -sm /data1/*"

journal路径，可以查看hdfs-site.xml文件

 
         dfs.journalnode.edits.dir:  
        
         /data1/journalnode

### 升级相关

12. copy文件（已提前处理，参考第一步）

切换软连接到2.7.1版本

 
         ssh -t -q $h 
         "cd /usr/local/hadoop; rm hadoop-release; ln -s hadoop-2.7.1 hadoop-release"

13. 切换文件软链接,root用户执行

 
         ssh -t -q 192.168.143.46   
         "cd /usr/local/hadoop; rm hadoop-release; ln -s hadoop-2.7.1 hadoop-release" 
        
         ssh -t -q 192.168.143.103   
         "cd /usr/local/hadoop; rm hadoop-release; ln -s hadoop-2.7.1 hadoop-release" 
        
         ssh -t -q 192.168.143.101   
         "cd /usr/local/hadoop; rm hadoop-release; ln -s hadoop-2.7.1 hadoop-release" 
        
         ssh -t -q 192.168.143.102   
         "cd /usr/local/hadoop; rm hadoop-release; ln -s hadoop-2.7.1 hadoop-release" 
        
         ssh -t -q 192.168.143.196   
         "cd /usr/local/hadoop; rm hadoop-release; ln -s hadoop-2.7.1 hadoop-release" 
        
         ssh -t -q 192.168.143.231   
         "cd /usr/local/hadoop; rm hadoop-release; ln -s hadoop-2.7.1 hadoop-release" 
        
         ssh -t -q 192.168.143.182   
         "cd /usr/local/hadoop; rm hadoop-release; ln -s hadoop-2.7.1 hadoop-release" 
        
         ssh -t -q 192.168.143.235   
         "cd /usr/local/hadoop; rm hadoop-release; ln -s hadoop-2.7.1 hadoop-release" 
        
         ssh -t -q 192.168.143.41    
         "cd /usr/local/hadoop; rm hadoop-release; ln -s hadoop-2.7.1 hadoop-release" 
        
         ssh -t -q 192.168.143.127   
         "cd /usr/local/hadoop; rm hadoop-release; ln -s hadoop-2.7.1 hadoop-release"

确认状态

 
         ssh -t -q 192.168.143.46    
         "cd /usr/local/hadoop; ls -al" 
        
         ssh -t -q 192.168.143.103   
         "cd /usr/local/hadoop; ls -al" 
        
         ssh -t -q 192.168.143.101   
         "cd /usr/local/hadoop; ls -al" 
        
         ssh -t -q 192.168.143.102   
         "cd /usr/local/hadoop; ls -al" 
        
         ssh -t -q 192.168.143.196   
         "cd /usr/local/hadoop; ls -al" 
        
         ssh -t -q 192.168.143.231   
         "cd /usr/local/hadoop; ls -al" 
        
         ssh -t -q 192.168.143.182   
         "cd /usr/local/hadoop; ls -al" 
        
         ssh -t -q 192.168.143.235   
         "cd /usr/local/hadoop; ls -al" 
        
         ssh -t -q 192.168.143.41    
         "cd /usr/local/hadoop; ls -al" 
        
         ssh -t -q 192.168.143.127   
         "cd /usr/local/hadoop; ls -al"

### 启动HDFS，hdfs用户执行

14. 启动JournalNode

 
         JN:
        
         ssh -t -q 192.168.143.101  sudo su -l hdfs -c 
         "/usr/local/hadoop/hadoop-release/sbin/hadoop-daemon.sh\ start\ journalnode" 
        
         ssh -t -q 192.168.143.102  sudo su -l hdfs -c 
         "/usr/local/hadoop/hadoop-release/sbin/hadoop-daemon.sh\ start\ journalnode" 
        
         ssh -t -q 192.168.143.103  sudo su -l hdfs -c 
         "/usr/local/hadoop/hadoop-release/sbin/hadoop-daemon.sh\ start\ journalnode"

 
         ssh -t -q 192.168.143.101  sudo su -l hdfs -c 
         "jps" 
        
         ssh -t -q 192.168.143.102  sudo su -l hdfs -c 
         "jps" 
        
         ssh -t -q 192.168.143.103  sudo su -l hdfs -c 
         "jps"

15. 启动第一个NameNode

 
         ssh 192.168.143.46
        
         su - hdfs
        
         /usr/
         local
         /hadoop/hadoop-release/sbin/hadoop-daemon.sh start namenode -upgrade

16. 确认状态,在状态完全OK之后，才可以启动另一个namenode

 
         https://192.168.143.46:50470/dfshealth.html#tab-overview

17. 启动第一个ZKFC

 
         su - hdfs
        
         /usr/
         local
         /hadoop/hadoop-release/sbin/hadoop-daemon.sh start zkfc 
        
         192.168.143.46

18. 启动第二个NameNode

 
         ssh 192.168.143.103
        
         su - hdfs
        
         /usr/
         local
         /hadoop/hadoop-release/bin/hdfs namenode -bootstrapStandby 
        
         /usr/
         local
         /hadoop/hadoop-release/sbin/hadoop-daemon.sh start namenode

19. 启动第二个ZKFC

 
         ssh 192.168.143.103
        
         su - hdfs
        
         /usr/
         local
         /hadoop/hadoop-release/sbin/hadoop-daemon.sh start zkfc

20. 启动DataNode

 
         ssh -t -q 192.168.143.196  sudo su -l hdfs -c 
         "/usr/local/hadoop/hadoop-release/sbin/hadoop-daemon.sh\ start\ datanode" 
        
         ssh -t -q 192.168.143.231  sudo su -l hdfs -c 
         "/usr/local/hadoop/hadoop-release/sbin/hadoop-daemon.sh\ start\ datanode" 
        
         ssh -t -q 192.168.143.182  sudo su -l hdfs -c 
         "/usr/local/hadoop/hadoop-release/sbin/hadoop-daemon.sh\ start\ datanode" 
        
         ssh -t -q 192.168.143.235  sudo su -l hdfs -c 
         "/usr/local/hadoop/hadoop-release/sbin/hadoop-daemon.sh\ start\ datanode" 
        
         ssh -t -q 192.168.143.41   sudo su -l hdfs -c 
         "/usr/local/hadoop/hadoop-release/sbin/hadoop-daemon.sh\ start\ datanode" 
        
         ssh -t -q 192.168.143.127  sudo su -l hdfs -c 
         "/usr/local/hadoop/hadoop-release/sbin/hadoop-daemon.sh\ start\ datanode"

确认状态

 
         ssh -t -q 192.168.143.196  sudo su -l hdfs -c 
         "jps" 
        
         ssh -t -q 192.168.143.231  sudo su -l hdfs -c 
         "jps" 
        
         ssh -t -q 192.168.143.182  sudo su -l hdfs -c 
         "jps" 
        
         ssh -t -q 192.168.143.235  sudo su -l hdfs -c 
         "jps" 
        
         ssh -t -q 192.168.143.41   sudo su -l hdfs -c 
         "jps" 
        
         ssh -t -q 192.168.143.127  sudo su -l hdfs -c 
         "jps"

21. 一切正常之后，启动hbase, hbase用户执行

启动hbase master，最好先启动原来的active master。

 
         ssh -t -q 192.168.143.101  sudo su -l hbase -c 
         "/usr/local/hadoop/hbase-release/bin/hbase-daemon.sh\ start\ master" 
        
         ssh -t -q 192.168.143.103  sudo su -l hbase -c 
         "/usr/local/hadoop/hbase-release/bin/hbase-daemon.sh\ start\ master"

启动Hbase regionserver

 
         ssh -t -q 192.168.143.196  sudo su -l hbase -c 
         "/usr/local/hadoop/hbase-release/bin/hbase-daemon.sh\ start\ regionserver" 
        
         ssh -t -q 192.168.143.231  sudo su -l hbase -c 
         "/usr/local/hadoop/hbase-release/bin/hbase-daemon.sh\ start\ regionserver" 
        
         ssh -t -q 192.168.143.182  sudo su -l hbase -c 
         "/usr/local/hadoop/hbase-release/bin/hbase-daemon.sh\ start\ regionserver" 
        
         ssh -t -q 192.168.143.235  sudo su -l hbase -c 
         "/usr/local/hadoop/hbase-release/bin/hbase-daemon.sh\ start\ regionserver" 
        
         ssh -t -q 192.168.143.41   sudo su -l hbase -c 
         "/usr/local/hadoop/hbase-release/bin/hbase-daemon.sh\ start\ regionserver" 
        
         ssh -t -q 192.168.143.127  sudo su -l hbase -c 
         "/usr/local/hadoop/hbase-release/bin/hbase-daemon.sh\ start\ regionserver"

22. Hbase region需要手动Balance开启、关闭

需要登录HBase Shell运行如下命令

开启

balance_switch true

关闭

balance_switch false

23. 本次不执行，系统运行一周，确保系统运行稳定，再执行Final。

注意：这期间，磁盘空间可能会快速增长。在执行完final之后，会释放一部分空间。

Finallize upgrade: hdfs dfsadmin -finalizeUpgrade

本文转自 hsbxxl 51CTO博客，原文链接：http://blog.51cto.com/hsbxxl/1976472，如需转载请自行联系原作者

微信关注我们

原文链接：https://yq.aliyun.com/articles/473769

转载内容版权归作者及来源网站所有！

低调大师中文资讯倾力打造互联网数据资讯、行业资源、电子商务、移动互联网、网络营销平台。持续更新报道IT业界、互联网、市场资讯、驱动更新,是最及时权威的产业资讯及硬件资讯报道平台。

Editlog与FileChannel Log的Group Commit

前阶段看Hadoop源码看到editlog部分，和flume file-channel的logfile部分注意到一个相同之处：Groupcommit.其实最早接触这个概念是在MySQL写redo log（注：binlog group commit在mariadb/procona是支持的，或者mysqlsync_binlog=0；细节移步：http://kristiannielsen.livejournal.com/12254.html）；先来看看Hadoop是怎么处理的： Editlog是可以被多个线程并发写入的，每个线程维护了自己最新的一个事务ID： privatestaticfinalThreadLocal<TransactionId>myTransactionId=newThreadLocal<TransactionId>() { protectedsynchronizedTransactionId initialValue() { returnnewTransactionId(Long.MAX_VALUE); } }; 在提交的时候，首先获得提交时最新...

2017-11-21

568

hadoop 配置文件简析

文件名称格式描述 hadoop-env.sh bash脚本记录hadoop要用的环境变量 core-site.xml hadoop 配置 xml hadoop core 配置项，例如 HDFS 和 Mapreduce 常用的i/o 设置等 hdfs-site.xml hadoop 配置 xml HDFS 守护进程的配置项，包括 Namenode、SecondaryNameNode、DataNode等 yarn-site.xml hadoop 配置 xml YARN 守护进程的配置项，包括 resourcemanager 和 nodemanager mapred-site.xml hadoop 配置 xml mapreduce 计算框架的配置项 slaves 纯文本运行 datanode 和 nodemanager 的机器列表（每行一个） log4j.properties properties 文件系统日志文件、namenode 审计日志、datanode...

2017-11-22

560

发表评论

资源下载

更多资源

优质分享App

近一个月的开发和优化，本站点的第一个app全新上线。该app采用极致压缩，本体才4.36MB。系统里面做了大量数据访问、缓存优化。方便用户在手机上查看文章。后续会推出HarmonyOS的适配版本。

Nacos

Nacos /nɑ:kəʊs/ 是 Dynamic Naming and Configuration Service 的首字母简称，一个易于构建 AI Agent 应用的动态服务发现、配置管理和AI智能体管理平台。Nacos 致力于帮助您发现、配置和管理微服务及AI智能体应用。Nacos 提供了一组简单易用的特性集，帮助您快速实现动态服务发现、服务配置、服务元数据、流量管理。Nacos 帮助您更敏捷和容易地构建、交付和管理微服务平台。

Spring

Spring框架（Spring Framework）是由Rod Johnson于2002年提出的开源Java企业级应用框架，旨在通过使用JavaBean替代传统EJB实现方式降低企业级编程开发的复杂性。该框架基于简单性、可测试性和松耦合性设计理念，提供核心容器、应用上下文、数据访问集成等模块，支持整合Hibernate、Struts等第三方框架，其适用范围不仅限于服务器端开发，绝大多数Java应用均可从中受益。

Rocky Linux

Rocky Linux（中文名：洛基）是由Gregory Kurtzer于2020年12月发起的企业级Linux发行版，作为CentOS稳定版停止维护后与RHEL（Red Hat Enterprise Linux）完全兼容的开源替代方案，由社区拥有并管理，支持x86_64、aarch64等架构。其通过重新编译RHEL源代码提供长期稳定性，采用模块化包装和SELinux安全架构，默认包含GNOME桌面环境及XFS文件系统，支持十年生命周期更新。