hadoop 1.x环境搭建-低调大师

hadoop 1.x环境搭建

2012-12-20 918

近一直在自学Hadoop，今天花点时间搭建一个开发环境，并整理成文。

首先要了解一下Hadoop的运行模式：

单机模式（standalone）
单机模式是Hadoop的默认模式。当首次解压Hadoop的源码包时，Hadoop无法了解硬件安装环境，便保守地选择了最小配置。在这种默认模式下所有3个XML文件均为空。当配置文件为空时，Hadoop会完全运行在本地。因为不需要与其他节点交互，单机模式就不使用HDFS，也不加载任何 Hadoop的守护进程。该模式主要用于开发调试MapReduce程序的应用逻辑。
伪分布模式（Pseudo-Distributed Mode）
伪分布模式在“单节点集群”上运行Hadoop，其中所有的守护进程都运行在同一台机器上。该模式在单机模式之上增加了代码调试功能，允许你检查内存使用情况，HDFS输入输出，以及其他的守护进程交互。
全分布模式（Fully Distributed Mode）
Hadoop守护进程运行在一个集群上。

版本：ubuntu 10.04.4，hadoop 1.0.2

1.添加hadoop用户到系统用户

安装前要做一件事——添加一个名为hadoop到系统用户，专门用来做Hadoop测试。

[html] view plain copy

~$ sudo addgroup hadoop
~$ sudo adduser --ingroup hadoop hadoop

现在只是添加了一个用户hadoop，它并不具备管理员权限，因此我们需要将用户hadoop添加到管理员组：

[html] view plain copy

~$ sudo usermod -aG admin hadoop

2.安装ssh

由于Hadoop用ssh通信，先安装ssh

[html] view plain copy

~$ sudo apt-get install openssh-server

ssh安装完成以后，先启动服务：

[html] view plain copy

~$ sudo /etc/init.d/ssh start

启动后，可以通过如下命令查看服务是否正确启动：

[html] view plain copy

~$ ps -e | grep ssh

作为一个安全通信协议，使用时需要密码，因此我们要设置成免密码登录，生成私钥和公钥：

[html] view plain copy

hadoop@scgm-ProBook:~$ ssh-keygen -t rsa -P ""

因为我已有私钥，所以会提示是否覆盖当前私钥。第一次操作时会提示输入密码，按Enter直接过，这时会在～/home/{username} /.ssh下生成两个文件：id_rsa和id_rsa.pub，前者为私钥，后者为公钥，现在我们将公钥追加到authorized_keys中（authorized_keys用于保存所有允许以当前用户身份登录到ssh客户端用户的公钥内容）：

[html] view plain copy

~$ cat ~/.ssh/id_rsa.pub > > ~/.ssh/authorized_keys

现在可以登入ssh确认以后登录时不用输入密码：

[html] view plain copy

~$ ssh localhost

登出：

[html] view plain copy

~$ exit

第二次登录：

[html] view plain copy

~$ ssh localhost

登出：

[html] view plain copy

~$ exit

这样以后登录就不用输入密码了。

3.安装Java

[html] view plain copy

~$ sudo apt-get install openjdk-6-jdk
~$ java -version

4.安装hadoop 1.0.2

到官网下载 hadoop源文件，这里选择hadoop 1.0.2

解压并放到你希望的目录中。我是放到/usr/local/hadoop

[html] view plain copy

~$ sudo tar xzf hadoop-1.0.2.tar.gz
~$ sudo mv hadoop-1.0.2 /usr/local/hadoop

要确保所有的操作都是在用户hadoop下完成的：

[html] view plain copy

~$ sudo chown -R hadoop:hadoop /usr/local/hadoop

5.设定hadoop-env.sh(Java 安装路径)

进入hadoop目录，打开conf目录下到hadoop-env.sh，添加以下信息：
export JAVA_HOME=/usr/lib/jvm/java-6-openjdk (视你机器的java安装路径而定)
export HADOOP_HOME=/usr/local/hadoop
export PATH=$PATH:/usr/local/hadoop/bin

并且，让环境变量配置生效source

[html] view plain copy

~$ source /usr/local/hadoop/conf/hadoop-env.sh

至此，hadoop的单机模式已经安装成功。

于是，运行一下hadoop自带的例子WordCount来感受以下MapReduce过程：

在hadoop目录下新建input文件夹

[html] view plain copy

~$ mkdir input

将conf中的所有文件拷贝到input文件夹中

[html] view plain copy

~$ cp conf/* input < span style = "font-family: Arial, Helvetica, sans-serif; white-space: normal; background-color: rgb(255, 255, 255); " > </ span >

运行WordCount程序，并将结果保存到output中

[html] view plain copy

~$ bin/hadoop jar hadoop-0.20.2-examples.jar wordcount input output

运行

[html] view plain copy

~$ cat output/*

你会看到conf所有文件的单词和频数都被统计出来。

下面是伪分布模式需要的一些配置，继续。

6.设定*-site.xml
这里需要设定3个文件：core-site.xml,hdfs-site.xml,mapred-site.xml，都在/usr/local/hadoop/conf目录下
core-site.xml: Hadoop Core的配置项，例如HDFS和MapReduce常用的I/O设置等。
hdfs-site.xml: Hadoop 守护进程的配置项，包括namenode，辅助namenode和datanode等。
mapred-site.xml： MapReduce 守护进程的配置项，包括jobtracker和tasktracker。

首先在hadoop目录下新建几个文件夹

[html] view plain copy

~/hadoop$ mkdir tmp
~/hadoop$ mkdir hdfs
~/hadoop$ mkdir hdfs/name
~/hadoop$ mkdir hdfs/data
chmod -R 755 hdfs/data

接下来编辑那三个文件：

core-site.xml:

[html] view plain copy

< configuration >
< property >
< name > fs.default.name </ name >
< value > hdfs://localhost:9000 </ value >
</ property >
< property >
< name > hadoop.tmp.dir </ name >
< value > /usr/local/hadoop/tmp </ value >
</ property >
</ configuration >

hdfs-site.xml:

[html] view plain copy

< configuration >
< property >
< name > dfs.replication </ name >
< value > 1 </ value >
</ property >
< property >
< name > dfs.name.dir </ name >
< value > /usr/local/hadoop/hdfs/name </ value >
</ property >
< property >
< name > dfs.data.dir </ name >
< value > /usr/local/hadoop/hdfs/data </ value >
</ property >
</ configuration >

mapred-site.xml:

[html] view plain copy

< configuration >
< property >
< name > mapred.job.tracker </ name >
< value > localhost:9001 </ value >
</ property >
</ configuration >

7.格式化HDFS

通过以上步骤，我们已经设定好Hadoop单机测试到环境，接着就是启动Hadoop到相关服务，格式化namenode,secondarynamenode,tasktracker:

[html] view plain copy

~$ source /usr/local/hadoop/conf/hadoop-env.sh
~$ hadoop namenode -format

8.启动Hadoop

接着执行start-all.sh来启动所有服务，包括namenode,datanode，start-all.sh脚本用来装载守护进程。

[html] view plain copy

hadoop@ubuntu:/usr/local/hadoop$ cd bin
hadoop@ubuntu:/usr/local/hadoop/bin$ start-all.sh

用Java的jps命令列出所有守护进程来验证安装成功

[html] view plain copy

hadoop@ubuntu:/usr/local/hadoop$ jps

出现如下列表，表明成功

9.检查运行状态
所有的设置已完成，Hadoop也启动了，现在可以通过下面的操作来查看服务是否正常，在Hadoop中用于监控集群健康状态的Web界面：
http://localhost:50030/ - Hadoop 管理介面
http://localhost:50060/ - Hadoop Task Tracker 状态
http://localhost:50070/ - Hadoop DFS 状态

Hadoop 管理介面：

Hadoop Task Tracker 状态：

Hadoop DFS 状态：

至此，hadoop的伪分布模式已经安装成功，于是，再次在伪分布模式下运行一下hadoop自带的例子WordCount来感受以下MapReduce过程：

这时注意程序是在文件系统dfs运行的，创建的文件也都基于文件系统：

首先在dfs中创建input目录

[html] view plain copy

hadoop@ubuntu:/usr/local/hadoop$ bin/hadoop dfs -mkdir input

将conf中的文件拷贝到dfs中的input

[html] view plain copy

hadoop@ubuntu:/usr/local/hadoop$ hadoop dfs -copyFromLocal conf/* input

在伪分布式模式下运行WordCount

[html] view plain copy

hadoop@ubuntu:/usr/local/hadoop$ hadoop jar hadoop-examples-1.0.2.jar wordcount input output

可看到以下过程

显示输出结果

[html] view plain copy

hadoop@ubuntu:/usr/local/hadoop$ hadoop dfs -cat output/*

当Hadoop结束时，可以通过stop-all.sh脚本来关闭Hadoop的守护进程

[html] view plain copy

hadoop@ubuntu:/usr/local/hadoop$ bin/stop-all.sh

10.结语

在ubuntu上搭建hadoop成功！有点小兴奋，已经迫不及待的想开始做一些相关的开发及深入理解hadoop内核实现，继续加油咯！

PS：单机模式和伪分布模式均用于开发和调试的目的。真实Hadoop集群的运行采用的是第三种模式，即全分布模式。待续。

本文参考了这两位同学的文章，感谢分享阿！

http://blog.sina.com.cn/s/blog_61ef49250100uvab.html

http://www.cnblogs.com/welbeckxu/category/346329.html

来源：http://jayklin.iteye.com/blog/1746536

微信公众号：猿人谷
如果您认为阅读这篇博客让您有些收获，不妨点击一下右下角的【推荐】
如果您希望与我交流互动，欢迎关注微信公众号
本文版权归作者和博客园共有，欢迎转载，但未经作者同意必须保留此段声明，且在文章页面明显位置给出原文连接。

微信关注我们

原文链接：https://yq.aliyun.com/articles/571341

转载内容版权归作者及来源网站所有！

低调大师中文资讯倾力打造互联网数据资讯、行业资源、电子商务、移动互联网、网络营销平台。持续更新报道IT业界、互联网、市场资讯、驱动更新,是最及时权威的产业资讯及硬件资讯报道平台。

Hadoop的安装

来源： http://suxain.iteye.com/blog/1744652 本来是用word写的，里面有一些截图，可是iteye的编辑器上传图片不方便，所以，附件中是原版word文档一、 Hadoop安装 1.1 hosts文件修改在每个结点修改hosts文件，配置节点IP与别名 Vi /etc/hosts 1.2 建立hadoop用户 Useradd username //添加用户 Passwd username //为用户生成密码 1.3 生成公私钥密钥对用hadoop 用户登录在各个节点上，分别使用 ssh-keygen –t rsa –f ~/.ssh/id_rsa来生成密钥 Cd ~/.ssh cat id_rsa.pub &gt;&gt; authorized_keys 1.4 密钥合并和相互复制将各个节点的authorized_keys 合并，并分发到每个节点，如果是从本地免密码登录远程主机，则把本现的id_rsa.pub复制到远程主机。 1.5 安装hadoop 从mirror.bit.edu.cn 用hadoop用户解压到安装目录, ...

2012-12-20

855

HDFS详解

【一】HDFS简介 HDFS的基本概念1.1、数据块(block) HDFS(Hadoop Distributed File System)默认的最基本的存储单位是64M的数据块。和普通文件系统相同的是，HDFS中的文件是被分成64M一块的数据块存储的。不同于普通文件系统的是，HDFS中，如果一个文件小于一个数据块的大小，并不占用整个数据块存储空间。 ------------------------------------------------------------------------------------------- 内容比较多，所以本区整理如下，欢迎下载学习：附件: HDFS简介.pdf (2010-12-1 22:58:56, 516.37 K)该附件被下载次数 5 ------------------------------------------------------------------------------------------- ----------------------------------------------------------...

2012-12-21

831

发表评论

资源下载

更多资源

Mario

马里奥是站在游戏界顶峰的超人气多面角色。马里奥靠吃蘑菇成长，特征是大鼻子、头戴帽子、身穿背带裤，还留着胡子。与他的双胞胎兄弟路易基一起，长年担任任天堂的招牌角色。

Rocky Linux

Rocky Linux（中文名：洛基）是由Gregory Kurtzer于2020年12月发起的企业级Linux发行版，作为CentOS稳定版停止维护后与RHEL（Red Hat Enterprise Linux）完全兼容的开源替代方案，由社区拥有并管理，支持x86_64、aarch64等架构。其通过重新编译RHEL源代码提供长期稳定性，采用模块化包装和SELinux安全架构，默认包含GNOME桌面环境及XFS文件系统，支持十年生命周期更新。

Sublime Text

Sublime Text具有漂亮的用户界面和强大的功能，例如代码缩略图，Python的插件，代码段等。还可自定义键绑定，菜单和工具栏。Sublime Text 的主要功能包括：拼写检查，书签，完整的 Python API ， Goto 功能，即时项目切换，多选择，多窗口等等。Sublime Text 是一个跨平台的编辑器，同时支持Windows、Linux、Mac OS X等操作系统。

WebStorm

WebStorm 是jetbrains公司旗下一款JavaScript 开发工具。目前已经被广大中国JS开发者誉为“Web前端开发神器”、“最强大的HTML5编辑器”、“最智能的JavaScript IDE”等。与IntelliJ IDEA同源，继承了IntelliJ IDEA强大的JS部分的功能。