Hadoop2.7实战v1.0之JVM参数调优-低调大师

Hadoop2.7实战v1.0之JVM参数调优

2016-05-16 838

Hadoop正式上线之前，首先要调整的是各个进程的JVM参数设置，特别是对于HDFS Namenode来说。

HDFS的JVM参数配置文件: hadoop-env.sh

Namenode进程的JVM配置: HADOOP_NAMENODE_OPTS
Datanode进程的JVM配置: HADOOP_DATANODE_OPTS
client命令行的JVM配置: HADOOP_CLIENT_OPTS
对于Namenode而言, 由于元数据存储\操作都在内存中，所以Namenode JVM要根据集群规模设置，通常情况下换算公式为：

在HDFS中，任何block，文件或者目录在内存中均以对象的形式存储，每个对象约占150byte，如果有1000 0000个小文件，每个文件占用一个block，则namenode需要2G空间。如果存储1亿个文件，则namenode需要20G空间。这样namenode内存容量严重制约了集群的扩展。

Apache Hadoop JVM配置($HADOOP_HOME/etc/hadoop/hadoop-env.sh):

export HADOOP_NAMENODE_OPTS="-Dhadoop.security.logger=${HADOOP_SECURITY_LOGGER:-INFO,RFAS} -Dhdfs.audit.logger=${HDFS_AUDIT_LOGGER:-INFO,NullAppender} $HADOOP_NAMENODE_OPTS -Xmx2048M"
export HADOOP_DATANODE_OPTS="-Dhadoop.security.logger=ERROR,RFAS $HADOOP_DATANODE_OPTS -Xmx2048M"

-Xmx标识进程使用最大的内存大小

CDH4/5 JVM配置(通过web http://172.168.1.136:7180/):
进入CDH4/5--》hdfs1/hdfs--》配置tab--》搜索"堆栈"关键字,
修改 namenode,datanode,journalnode,failover controller的java进程堆栈最大大小,保存,再重启集群生效.
namenode:8G
datanode:7G
journalnode:512M
failover controller:512M

微信关注我们

原文链接：https://yq.aliyun.com/articles/578858

转载内容版权归作者及来源网站所有！

低调大师中文资讯倾力打造互联网数据资讯、行业资源、电子商务、移动互联网、网络营销平台。持续更新报道IT业界、互联网、市场资讯、驱动更新,是最及时权威的产业资讯及硬件资讯报道平台。

2016年北京中国云计算技术大会见闻

概述笔者有幸受邀请参加中国云计算技术大会，感谢主办方CSDN。此次大会有3天，第一天全部为topic，随后分为了若干个场次，有《Container技术峰会》、《大数据核心技术与应用实战峰会》、《云计算核心技术与架构》，第三天为《中国Spark技术峰会》、《OpenStack技术峰会》、《亚马逊AWS专场》，笔者基本一直在《大数据核心技术与应用实战峰会》与《中国Spark技术峰会》场次。由于笔者关注在大数据方面，对OpenStack、Container没有去听。本文主要走马观花几句话讲述下笔者听的一些场次的见解，讲述的是什么，如果需要详细了解，请自行google或者联系演讲嘉宾。 PS:北京的天气还是可以的第一天基本就是各家云厂商在做广告《开启共享经济云计算时代》讲述了怎么利用共享经济做CDN，简单的讲就是利用大家闲置的资源做共享的C

2016-05-17

665

1.修改dfs.datanode.max.transfer.threads = 4096 (如果运行hbase的话建议为16384)，指定用于在DataNode间传输block数据的最大线程数，老版本的对应参数为dfs.datanode.max.xcievers 2.修改dfs.datanode.balance.bandwidthPerSec =52428800，指定DataNode用于balancer的带宽为50MB，这个示情况而定，如果交换机性能好点的，完全可以设定为100MB，单位是Byte，如果机器的网卡和交换机的带宽有限，可以适当降低该速度，默认是1048576(1MB) 3.修改dfs.datanode.balance.max.concurrent.moves = 50，指定DataNode上同时用于balance待移动block的最大线程个数，这个值默认是5 如果配置没生效或者不合理的话，Balancer会有如下警告信息： 16/05/17 11:54:59 WARN balancer.Dispatcher: Failed to move blk_10753...

2016-05-17

705

资源下载

更多资源

腾讯云软件源

为解决软件依赖安装时官方源访问速度慢的问题，腾讯云为一些软件搭建了缓存服务。您可以通过使用腾讯云软件源站来提升依赖包的安装速度。为了方便用户自由搭建服务架构，目前腾讯云软件源站支持公网访问和内网访问。

Nacos

Nacos /nɑ:kəʊs/ 是 Dynamic Naming and Configuration Service 的首字母简称，一个易于构建 AI Agent 应用的动态服务发现、配置管理和AI智能体管理平台。Nacos 致力于帮助您发现、配置和管理微服务及AI智能体应用。Nacos 提供了一组简单易用的特性集，帮助您快速实现动态服务发现、服务配置、服务元数据、流量管理。Nacos 帮助您更敏捷和容易地构建、交付和管理微服务平台。

Spring

Spring框架（Spring Framework）是由Rod Johnson于2002年提出的开源Java企业级应用框架，旨在通过使用JavaBean替代传统EJB实现方式降低企业级编程开发的复杂性。该框架基于简单性、可测试性和松耦合性设计理念，提供核心容器、应用上下文、数据访问集成等模块，支持整合Hibernate、Struts等第三方框架，其适用范围不仅限于服务器端开发，绝大多数Java应用均可从中受益。

Sublime Text

Sublime Text具有漂亮的用户界面和强大的功能，例如代码缩略图，Python的插件，代码段等。还可自定义键绑定，菜单和工具栏。Sublime Text 的主要功能包括：拼写检查，书签，完整的 Python API ， Goto 功能，即时项目切换，多选择，多窗口等等。Sublime Text 是一个跨平台的编辑器，同时支持Windows、Linux、Mac OS X等操作系统。