Ganglia监控Hadoop与HBase集群-低调大师

Ganglia监控Hadoop与HBase集群

2017-11-20 703

Hadoop集群基本部署完成，接下来就需要有一个监控系统，能及时发现性能瓶颈，给故障排除提供有力依据。监控hadoop集群系统好用的比较少，自身感觉ambari比较好用，但不能监控已有的集群环境，挺悲催的。ganglia在网上看到原生支持Hadoop、Hbase性能监控，试用一段时间感觉还不错，监控项比较全面，配置简单，软件包在epel网络源中，使用yum安装方便快捷。

Ganglia是一个开源集群监控系统，主要用来监控系统性能，如：cpu、mem、硬盘利用率、I/O负载、网络流量等。

Ganglia涉及到三个组件：

gmetad：定期从gmond获取数据，并将数据存储到RRD存储引擎中。

gmond：被监控端代理程序，用于收集监控信息，并发送给gmetad。

ganglia-web：WEB前端，RRD绘图后通过PHP展示。

四、Ganglia集群监控系统部署

1. CentOS7 YUM源自带epel网络源，直接安装（部署到HMaster0上，尽量单独放一台机器上）

 
        # yum install epel-release   
       
        # yum install ganglia-web ganglia-gmetad ganglia-gmond

此时会安装出来我们要安装的ganglia之外，还要安装httpd、php、rrdtool、gd、png、jpeg等相关软件包

2. 配置监控端（在HMaster0上配置）

2.1 配置监控程序

 
        # vi /etc/ganglia/gmetad.conf   #修改以下两项 
       
        data_source 
        "Hadoop" 
        192.168.18.215 192.168.18.216 192.168.18.217 192.168.18.218192.168.18.219 
       
        case_sensitive_hostnames 1

参数说明：

第一个是数据源，Hadoop是集群名字，后跟IP是集群中被监控节点地址。

第二个意思是是否区分主机名大小写，默认是0，修改为1，否则节点中主机名有大写的将保存为小写，写到/var/lib/ganglia/rrds/Hadoop中，导致图形无数据。

2.2 关联Apache，因为Ganglia自创建的配置ganglia.conf有问题，所以先删除，再创建个软连接到Apache根目录下。

 
        # rm /etc/httpd/conf.d/ganglia.conf   
       
        # ln -s /usr/share/ganglia /var/www/html/ganglia

2.3启动Apache和Ganglia，并设置开机启动

 
        # systemctl start httpd 
       
        # systemctl start gmetad 
       
        # systemctl enable httpd 
       
        # systemctl enable gmetad

3. 安装与配置被监控端（每台同样配置）

3.1 安装与配置代理程序

 
        # yum install ganglia-gmond 
       
        # vi /etc/ganglia/gmond.conf 
       
        …… 
       
        cluster{ 
       
        name = 
        "Hadoop"              
        #集群名，和上面那个一样 
       
        owner = 
        "unspecified" 
       
        latlong = 
        "unspecified" 
       
        url = 
        "unspecified" 
       
        } 
       
        /* Thehost section describes attributes of the host, like the location */ 
       
        host { 
       
        location = 
        "unspecified" 
       
        } 
       
        /*Feel 
        free 
        to specify as many udp_send_channels as you like.  Gmond 
       
        used to only support having a single channel*/ 
       
        udp_send_channel{ 
       
        #bind_hostname = yes # Highly recommended,soon to be default. 
       
        # This option tells gmond to use asource  address 
       
        # that resolves to themachine's hostname.  Without 
       
        # this, the metrics mayappear to come from any 
       
        # interface and the DNSnames associated with 
       
        # those IPs will be usedto create the RRDs. 
       
        #mcast_join = 239.2.11.71   #关闭多播 
       
        host = 192.168.18.215     
        #添加发送IP/主机名 
       
        port = 8649          
        #默认端口 
       
        ttl = 1 
       
        } 
       
        /* Youcan specify as many udp_recv_channels as you like as well. */ 
       
        udp_recv_channel{ 
       
        #mcast_join = 239.2.11.71   
       
        port = 8649 
       
        bind = 192.168.18.215      
        #接收地址 
       
        retry_bind = 
        true 
       
        # Size of the UDP buffer. If you are handlinglots of metrics you really 
       
        # should bump it up to e.g. 10MB or evenhigher. 
       
        # buffer = 10485760 
       
        } 
       
        ……

3.2 将修改好的gmond.conf配置scp到其他节点

 
        # scp /etc/ganglia/gmond.conf root@HMaster1:/etc/ganglia/gmond.conf   #分别拷贝HSlave0、1、2

3.3 启动代理程序，并设置开机启动

 
        # systemctl start gmond
       
        # systemctl enable gmond

4. 添加Hadoop被Ganglia监控，去掉文件中以***释并修改（每台同样配置）

 
        # vi /opt/hadoop-2.6.0/etc/hadoop/hadoop-metrics2.properties
       
        *.sink.ganglia.class=org.apache.hadoop.metrics2.sink.ganglia.GangliaSink31
       
        *.sink.ganglia.period=10
       
        *.sink.ganglia.supportsparse=
        true 
       
        *.sink.ganglia.slope=jvm.metrics.gcCount=zero,jvm.metrics.memHeapUsedM=both
       
        *.sink.ganglia.dmax=jvm.metrics.threadsBlocked=70,jvm.metrics.memHeapUsedM=40
       
        namenode.sink.ganglia.servers=192.168.18.215:8649    
        #当有多个ganglia监控系统时，以逗号分隔 
       
        datanode.sink.ganglia.servers=192.168.18.215:8649     
        #都指定ganglia服务器 
       
        resourcemanager.sink.ganglia.servers=192.168.18.215:8649
       
        nodemanager.sink.ganglia.servers=192.168.18.215:8649

5. 添加HBase被Ganglia监控，添加如下（每台同样配置）

 
        # vi /opt/hbase-1.0.1.1/conf/hadoop-metrics2-hbase.properties
       
        *.sink.ganglia.class=org.apache.hadoop.metrics2.sink.ganglia.GangliaSink31  
       
        *.sink.ganglia.period=10  
       
        hbase.sink.ganglia.period=10  
       
        hbase.sink.ganglia.servers=192.168.18.215:8649

6. 重启Hadoop和HBase

 
        # stop-dfs.sh
       
        # stop-yarn.sh
       
        # stop-hbase.sh
       
        # start-dfs.sh
       
        # start-yarn.sh
       
        # start-hbase.sh   #HRegionServer节点需要手动启动（hbase-daemon.sh start regionserver）

7. 通过WEB查看性能监控数据

访问地址：http://192.168.18.215/ganglia

本文转自李振良OK 51CTO博客，原文链接：http://blog.51cto.com/lizhenliang/1669312，如需转载请自行联系原作者

微信关注我们

原文链接：https://yq.aliyun.com/articles/409980

转载内容版权归作者及来源网站所有！

低调大师中文资讯倾力打造互联网数据资讯、行业资源、电子商务、移动互联网、网络营销平台。持续更新报道IT业界、互联网、市场资讯、驱动更新,是最及时权威的产业资讯及硬件资讯报道平台。

Spark RDD概念学习系列之细谈RDD的弹性（十六）

　细谈RDD的弹性所谓，弹性，是指在内存不够时可以与磁盘进行交换。　弹性之一：自动的进行内存和磁盘数据存储的切换弹性之二：基于Lineage（血缘）的高效容错弹性之三：Task如果失败会自动进行特定次数的重试　弹性之四：Stage如果失败会自动进行特定次数的重试，而且只会计算失败的分片　弹性之五：checkpoint和persist Checkpoint是比较重量级的操作，RDD操作，一般每次都会产生新的RDD，除了最后一个action操作触发作业以外。但是有时候，链条比较长或者计算比较笨重，考虑把数据放到磁盘上，这就是Checkpoint。 Persist是在内存或磁盘里复用。弹性之六：数据调度弹性:DAG、Task和资源管理无关弹性之七：数据分片的高度弹性本文转自大数据躺过的坑博客园博客，原文链接：http://www.cnblogs.com/zlslch/p/5887484.html，如需转载请自行联系原作者

2017-11-20

626

调用文件系统(FS)Shell命令应使用$HADOOP_HOME/bin/hadoop fs ***的形式！！！所有的FS Shell命令使用URI路径作为参数。 URI格式是scheme://authority/path。对于HDFS，HDFS的scheme是hdfs，如hdfs://localhost:9000/ ，对于本地，本地的scheme是file，如file:// 其中，scheme和authority参数都是可选的，如果未加指定，就会使用配置中指定的默认scheme。例如，/parent/child可以表示成hdfs://namenode:namenodePort/parent/child，或/parent/child(假设配置文件是namenode:namenodePort) 大多数FS Shell命令的行为和对应的Unix Shell命令类似。进一步学习，请移步 Hadoop HDFS概念学习系列之熟练掌握HDFS的Shell访问（十五） bin/hdfs dfs命令 1、appendToFile ...

2017-11-20

563

资源下载

更多资源

Mario

马里奥是站在游戏界顶峰的超人气多面角色。马里奥靠吃蘑菇成长，特征是大鼻子、头戴帽子、身穿背带裤，还留着胡子。与他的双胞胎兄弟路易基一起，长年担任任天堂的招牌角色。

腾讯云软件源

为解决软件依赖安装时官方源访问速度慢的问题，腾讯云为一些软件搭建了缓存服务。您可以通过使用腾讯云软件源站来提升依赖包的安装速度。为了方便用户自由搭建服务架构，目前腾讯云软件源站支持公网访问和内网访问。

Spring

Spring框架（Spring Framework）是由Rod Johnson于2002年提出的开源Java企业级应用框架，旨在通过使用JavaBean替代传统EJB实现方式降低企业级编程开发的复杂性。该框架基于简单性、可测试性和松耦合性设计理念，提供核心容器、应用上下文、数据访问集成等模块，支持整合Hibernate、Struts等第三方框架，其适用范围不仅限于服务器端开发，绝大多数Java应用均可从中受益。

Sublime Text

Sublime Text具有漂亮的用户界面和强大的功能，例如代码缩略图，Python的插件，代码段等。还可自定义键绑定，菜单和工具栏。Sublime Text 的主要功能包括：拼写检查，书签，完整的 Python API ， Goto 功能，即时项目切换，多选择，多窗口等等。Sublime Text 是一个跨平台的编辑器，同时支持Windows、Linux、Mac OS X等操作系统。