Hadoop集群（第7期）_Eclipse开发环境设置-低调大师

Hadoop集群（第7期）_Eclipse开发环境设置

2017-12-30 513

1、Hadoop开发环境简介

1.1 Hadoop集群简介

　　Java版本：jdk-6u31-linux-i586.bin

　　Linux系统：CentOS6.0

　　Hadoop版本：hadoop-1.0.0.tar.gz

1.2 Windows开发简介

　　Java版本：jdk-6u31-windows-i586.exe

　　Win系统：Windows 7 旗舰版

　　Eclipse软件：eclipse-jee-indigo-SR1-win32.zip | eclipse-jee-helios-SR2-win32.zip

　　Hadoop软件：hadoop-1.0.0.tar.gz

　　Hadoop Eclipse 插件：hadoop-eclipse-plugin-1.0.0.jar

　　下载地址：http://download.csdn.net/detail/xia520pi/4113746

　　备注：下面是网上收集的收集的"hadoop-eclipse-plugin-1.0.0.jar"，除"版本2.0"是根据"V1.0"按照"常见问题FAQ_1"改的之外，剩余的"V3.0"、"V4.0"和"V5.0"和"V2.0"一样是别人已经弄好的，而且我已经都测试过，没有任何问题，可以放心使用。我们这里选择第"V5.0"使用。记得在使用时重新命名为"hadoop-eclipse-plugin-1.0.0.jar"。

2、Hadoop Eclipse简介和使用

2.1 Eclipse插件介绍

　　Hadoop是一个强大的并行框架，它允许任务在其分布式集群上并行处理。但是编写、调试Hadoop程序都有很大难度。正因为如此，Hadoop的开发者开发出了Hadoop Eclipse插件，它在Hadoop的开发环境中嵌入了Eclipse，从而实现了开发环境的图形化，降低了编程难度。在安装插件，配置Hadoop的相关信息之后，如果用户创建Hadoop程序，插件会自动导入Hadoop编程接口的JAR文件，这样用户就可以在Eclipse的图形化界面中编写、调试、运行Hadoop程序（包括单机程序和分布式程序），也可以在其中查看自己程序的实时状态、错误信息和运行结果，还可以查看、管理HDFS以及文件。总地来说，Hadoop Eclipse插件安装简单，使用方便，功能强大，尤其是在Hadoop编程方面，是Hadoop入门和Hadoop编程必不可少的工具。

2.2 Hadoop工作目录简介

　　为了以后方便开发，我们按照下面把开发中用到的软件安装在此目录中，JDK安装除外，我这里把JDK安装在C盘的默认安装路径下，下面是我的工作目录：

    系统磁盘（E：）

        |---HadoopWorkPlat

            |--- eclipse

            |--- hadoop-1.0.0

            |--- workplace

            |---……

　　按照上面目录把Eclipse和Hadoop解压到"E:\HadoopWorkPlat"下面，并创建"workplace"作为Eclipse的工作空间。

　　备注：大家可以按照自己的情况，不一定按照我的结构来设计。

2.3 修改系统管理员名字

　　经过两天多次探索，为了使Eclipse能正常对Hadoop集群的HDFS上的文件能进行修改和删除，所以修改你工作时所用的Win7系统管理员名字，默认一般为"Administrator"，把它修改为"hadoop"，此用户名与Hadoop集群普通用户一致，大家应该记得我们Hadoop集群中所有的机器都有一个普通用户——hadoop，而且Hadoop运行也是用这个用户进行的。为了不至于为权限苦恼，我们可以修改Win7上系统管理员的姓名，这样就避免出现该用户在Hadoop集群上没有权限等都疼问题，会导致在Eclipse中对Hadoop集群的HDFS创建和删除文件受影响。

　　你可以做一下实验，查看Master.Hadoop机器上"/usr/hadoop/logs"下面的日志。发现权限不够，不能进行"Write"操作，网上有几种解决方案，但是对Hadoop1.0不起作用，详情见"常见问题FAQ_2"。下面我们进行修改管理员名字。

　　首先"右击"桌面上图标"我的电脑"，选择"管理"，弹出界面如下：

　　接着选择"本地用户和组"，展开"用户"，找到系统管理员"Administrator"，修改其为"hadoop"，操作结果如下图：

　　最后，把电脑进行"注销"或者"重启电脑"，这样才能使管理员才能用这个名字。

2.4 Eclipse插件开发配置

　　第一步：把我们的"hadoop-eclipse-plugin-1.0.0.jar"放到Eclipse的目录的"plugins"中，然后重新Eclipse即可生效。

    系统磁盘（E：）

        |---HadoopWorkPlat

            |--- eclipse

                |--- plugins

                    |--- hadoop-eclipse-plugin-1.0.0.jar

　　上面是我的"hadoop-eclipse-plugin"插件放置的地方。重启Eclipse如下图：

　　细心的你从上图中左侧"Project Explorer"下面发现"DFS Locations"，说明Eclipse已经识别刚才放入的Hadoop Eclipse插件了。

　　第二步：选择"Window"菜单下的"Preference"，然后弹出一个窗体，在窗体的左侧，有一列选项，里面会多出"Hadoop Map/Reduce"选项，点击此选项，选择Hadoop的安装目录（如我的Hadoop目录：E:\HadoopWorkPlat\hadoop-1.0.0）。结果如下图：

　　第三步：切换"Map/Reduce"工作目录，有两种方法：

　　1）选择"Window"菜单下选择"Open Perspective"，弹出一个窗体，从中选择"Map/Reduce"选项即可进行切换。

　　2）在Eclipse软件的右上角，点击图标""中的""，点击"Other"选项，也可以弹出上图，从中选择"Map/Reduce"，然后点击"OK"即可确定。

　　切换到"Map/Reduce"工作目录下的界面如下图所示。

　　第四步：建立与Hadoop集群的连接，在Eclipse软件下面的"Map/Reduce Locations"进行右击，弹出一个选项，选择"New Hadoop Location"，然后弹出一个窗体。

　　注意上图中的红色标注的地方，是需要我们关注的地方。

Location Name：可以任意其，标识一个"Map/Reduce Location"
Map/Reduce Master
Host：192.168.1.2（ Master.Hadoop的IP地址）
Port：9001

DFS Master
Use M/R Master host：前面的勾上。（因为我们的NameNode和JobTracker都在一个机器上。）
Port：9000

User name：hadoop（默认为Win系统管理员名字，因为我们之前改了所以这里就变成了hadoop。）

　　备注：这里面的Host、Port分别为你在mapred-site.xml、core-site.xml中配置的地址及端口。不清楚的可以参考"Hadoop集群_第5期_Hadoop安装配置_V1.0"进行查看。

　　接着点击"Advanced parameters"从中找见"hadoop.tmp.dir"，修改成为我们Hadoop集群中设置的地址，我们的Hadoop集群是"/usr/hadoop/tmp"，这个参数在"core-site.xml"进行了配置。

　　点击"finish"之后，会发现Eclipse软件下面的"Map/Reduce Locations"出现一条信息，就是我们刚才建立的"Map/Reduce Location"。

　　第五步：查看HDFS文件系统，并尝试建立文件夹和上传文件。点击Eclipse软件左侧的"DFS Locations"下面的"Win7ToHadoop"，就会展示出HDFS上的文件结构。

　　右击"Win7ToHadoopàuseràhadoop"可以尝试建立一个"文件夹--xiapi"，然后右击刷新就能查看我们刚才建立的文件夹。

　　创建完之后，并刷新，显示结果如下：

　　用SecureCRT远程登录"Master.Hadoop"服务器，用下面命令查看是否已经建立一个"xiapi"的文件夹。

hadoop fs -ls

　　到此为止，我们的Hadoop Eclipse开发环境已经配置完毕，不尽兴的同学可以上传点本地文件到HDFS分布式文件上，可以互相对比意见文件是否已经上传成功。

3、Eclipse运行WordCount程序

3.1 配置Eclipse的JDK

　　如果电脑上不仅仅安装的JDK6.0，那么要确定一下Eclipse的平台的默认JDK是否6.0。从"Window"菜单下选择"Preference"，弹出一个窗体，从窗体的左侧找见"Java"，选择"Installed JREs"，然后添加JDK6.0。下面是我的默认选择JRE。

　　下面是没有添加之前的设置如下：

　　下面是添加完JDK6.0之后结果如下：

　　接着设置Complier。

3.2 设置Eclipse的编码为UTF-8

3.3 创建MapReduce项目

　　从"File"菜单，选择"Other"，找到"Map/Reduce Project"，然后选择它。

　　接着，填写MapReduce工程的名字为"WordCountProject"，点击"finish"完成。

　　目前为止我们已经成功创建了MapReduce项目，我们发现在Eclipse软件的左侧多了我们的刚才建立的项目。

3.4 创建WordCount类

　　选择"WordCountProject"工程，右击弹出菜单，然后选择"New"，接着选择"Class"，然后填写如下信息：

　　因为我们直接用Hadoop1.0.0自带的WordCount程序，所以报名需要和代码中的一致为"org.apache.hadoop.examples"，类名也必须一致为"WordCount"。这个代码放在如下的结构中。

    hadoop-1.0.0

        |---src

            |---examples

                |---org

                    |---apache

                        |---hadoop

                            |---examples

　　从上面目录中找见"WordCount.java"文件，用记事本打开，然后把代码复制到刚才建立的java文件中。当然源码有些变动，变动的红色已经标记出。

 
         package 
         org.apache.hadoop.examples; 
        
         import 
         java.io.IOException; 
        
         import 
         java.util.StringTokenizer; 
        
         import 
         org.apache.hadoop.conf.Configuration; 
        
         import 
         org.apache.hadoop.fs.Path; 
        
         import 
         org.apache.hadoop.io.IntWritable; 
        
         import 
         org.apache.hadoop.io.Text; 
        
         import 
         org.apache.hadoop.mapreduce.Job; 
        
         import 
         org.apache.hadoop.mapreduce.Mapper; 
        
         import 
         org.apache.hadoop.mapreduce.Reducer; 
        
         import 
         org.apache.hadoop.mapreduce.lib.input.FileInputFormat; 
        
         import 
         org.apache.hadoop.mapreduce.lib.output.FileOutputFormat; 
        
         import 
         org.apache.hadoop.util.GenericOptionsParser; 
        
         public 
         class 
         WordCount { 
        
         public 
         static 
         class 
         TokenizerMapper 
        
         extends 
         Mapper<Object, Text, Text, IntWritable>{ 
        
         private 
         final 
         static 
         IntWritable one = 
         new 
         IntWritable(
         1
         ); 
        
         private 
         Text word = 
         new 
         Text(); 
        
         public 
         void 
         map(Object key, Text value, Context context 
        
         ) 
         throws 
         IOException, InterruptedException { 
        
         StringTokenizer itr = 
         new 
         StringTokenizer(value.toString()); 
        
         while 
         (itr.hasMoreTokens()) { 
        
         word.set(itr.nextToken()); 
        
         context.write(word, one);      } 
        
         } 
        
         } 
        
         public 
         static 
         class 
         IntSumReducer 
        
         extends 
         Reducer<Text,IntWritable,Text,IntWritable> { 
        
         private 
         IntWritable result = 
         new 
         IntWritable(); 
        
         public 
         void 
         reduce(Text key, Iterable values, 
        
         Context context 
        
         ) 
         throws 
         IOException, InterruptedException { 
        
         int 
         sum = 
         0
         ; 
        
         for 
         (IntWritable val : values) { 
        
         sum += val.get(); 
        
         } 
        
         result.set(sum); 
        
         context.write(key, result); 
        
         } 
        
         } 
        
         public 
         static 
         void 
         main(String[] args) 
         throws 
         Exception { 
        
         Configuration conf = 
         new 
         Configuration(); 
        
         conf.set(
         "mapred.job.tracker"
         , 
         "192.168.1.2:9001"
         ); 
        
         String[] ars=
         new 
         String[]{
         "input"
         ,
         "newout"
         }; 
        
         String[] otherArgs = 
         new 
         GenericOptionsParser(conf, ars).getRemainingArgs(); 
        
         if 
         (otherArgs.length != 
         2
         ) { 
        
         System.err.println(
         "Usage: wordcount  "
         ); 
        
         System.exit(
         2
         ); 
        
         } 
        
         Job job = 
         new 
         Job(conf, 
         "word count"
         ); 
        
         job.setJarByClass(WordCount.
         class
         ); 
        
         job.setMapperClass(TokenizerMapper.
         class
         ); 
        
         job.setCombinerClass(IntSumReducer.
         class
         ); 
        
         job.setReducerClass(IntSumReducer.
         class
         ); 
        
         job.setOutputKeyClass(Text.
         class
         ); 
        
         job.setOutputValueClass(IntWritable.
         class
         ); 
        
         FileInputFormat.addInputPath(job, 
         new 
         Path(otherArgs[
         0
         ])); 
        
         FileOutputFormat.setOutputPath(job, 
         new 
         Path(otherArgs[
         1
         ])); 
        
         System.exit(job.waitForCompletion(
         true
         ) ? 
         0 
         : 
         1
         ); 
        
         } 
        
         }

　　备注：如果不加"conf.set("mapred.job.tracker", "192.168.1.2:9001");"，将提示你的权限不够，其实照成这样的原因是刚才设置的"Map/Reduce Location"其中的配置不是完全起作用，而是在本地的磁盘上建立了文件，并尝试运行，显然是不行的。我们要让Eclipse提交作业到Hadoop集群上，所以我们这里手动添加Job运行地址。详细参考"常见问题FAQ_3"。

3.5 运行WordCount程序

　　选择"Wordcount.java"程序，右击一次按照"Run ASàRun on Hadoop"运行。然后会弹出如下图，按照下图进行操作。

　　运行结果如下：

　　从上图中我们得知我们的程序已经运行成功了。

3.6 查看WordCount运行结果

　　查看Eclipse软件左侧，右击"DFS LocationsàWin7ToHadoopàuseràhadoop"，点击刷新按钮"Refresh"，我们刚才出现的文件夹"newoutput"会出现。记得"newoutput"文件夹是运行程序时自动创建的，如果已经存在相同的的文件夹，要么程序换个新的输出文件夹，要么删除HDFS上的那个重名文件夹，不然会出错。

　　打开"newoutput"文件夹，打开"part-r-00000"文件，可以看见执行后的结果。

　　到此为止，Eclipse开发环境设置已经完毕，并且成功运行Wordcount程序，下一步我们真正开始Hadoop之旅。

4、常见问题FAQ

4.1 "error: failure to login"问题

　　下面以网上找的"hadoop-0.20.203.0"为例，我在使用"V1.0"时也出现这样的情况，原因就是那个"hadoop-eclipse-plugin-1.0.0_V1.0.jar"，是直接把源码编译而成，故而缺少相应的Jar包。具体情况如下

　　详细地址：http://blog.csdn.net/chengfei112233/article/details/7252404

　　在我实践尝试中，发现hadoop-0.20.203.0版本的该包如果直接复制到eclipse的插件目录中，在连接DFS时会出现错误，提示信息为： "error: failure to login"。

　　弹出的错误提示框内容为"An internal error occurred during: "Connecting to DFS hadoop".org/apache/commons/configuration/Configuration". 经过察看Eclipse的log，发现是缺少jar包导致的。进一步查找资料后，发现直接复制hadoop-eclipse-plugin-0.20.203.0.jar，该包中lib目录下缺少了jar包。

　　经过网上资料搜集，此处给出正确的安装方法：

　　首先要对hadoop-eclipse-plugin-0.20.203.0.jar进行修改。用归档管理器打开该包，发现只有commons-cli-1.2.jar 和hadoop-core.jar两个包。将hadoop/lib目录下的：

commons-configuration-1.6.jar ,
commons-httpclient-3.0.1.jar ,
commons-lang-2.4.jar ,
jackson-core-asl-1.0.1.jar
jackson-mapper-asl-1.0.1.jar

一共5个包复制到hadoop-eclipse-plugin-0.20.203.0.jar的lib目录下，如下图：

　　然后，修改该包META-INF目录下的MANIFEST.MF，将classpath修改为一下内容：

Bundle-ClassPath:classes/,lib/hadoop-core.jar,lib/commons-cli-1.2.jar,lib/commons-httpclient-3.0.1.jar,lib/jackson-core-asl-1.0.1.jar,lib/jackson-mapper-asl-1.0.1.jar,lib/commons-configuration-1.6.jar,lib/commons-lang-2.4.jar

　　这样就完成了对hadoop-eclipse-plugin-0.20.203.0.jar的修改。

　　最后，将hadoop-eclipse-plugin-0.20.203.0.jar复制到Eclipse的plugins目录下。

　　备注：上面的操作对"hadoop-1.0.0"一样适用。

4.2 "Permission denied"问题

　　网上试了很多，有提到"hadoop fs -chmod 777 /user/hadoop "，有提到"dfs.permissions 的配置项，将value值改为 false"，有提到"hadoop.job.ugi"，但是通通没有效果。

　　参考文献：

地址1：http://www.cnblogs.com/acmy/archive/2011/10/28/2227901.html

地址2：http://sunjun041640.blog.163.com/blog/static/25626832201061751825292/

　　错误类型：org.apache.hadoop.security.AccessControlException: org.apache.hadoop.security .AccessControlException: Permission denied: user=*********, access=WRITE, inode="hadoop": hadoop:supergroup:rwxr-xr-x

　　解决方案：

　　　　我的解决方案直接把系统管理员的名字改成你的Hadoop集群运行hadoop的那个用户。

4.3 "Failed to set permissions of path"问题

　　　参考文献：https://issues.apache.org/jira/browse/HADOOP-8089

　　　错误信息如下：

　　　　ERROR security.UserGroupInformation: PriviledgedActionException as: hadoop cause:java.io.IOException Failed to set permissions of path:\usr\hadoop\tmp\mapred\staging\hadoop753422487\.staging to 0700Exception in thread "main" java.io.IOException: Failed to set permissions of path: \usr\hadoop\tmp \mapred\staging\hadoop753422487\.staging to 0700

　　　解决方法：

Configuration conf = new Configuration();

conf.set("mapred.job.tracker", "[server]:9001");

　　 "[server]:9001"中的"[server]"为Hadoop集群Master的IP地址。

4.4 "hadoop mapred执行目录文件权"限问题

　　　参考文献：http://blog.csdn.net/azhao_dn/article/details/6921398

　　　错误信息如下：

　　　job Submission failed with exception 'java.io.IOException(The ownership/permissions on the staging directory /tmp/hadoop-hadoop-user1/mapred/staging/hadoop-user1/.staging is not as expected. It is owned by hadoop-user1 and permissions are rwxrwxrwx. The directory must be owned by the submitter hadoop-user1 or by hadoop-user1 and permissions must be rwx------)

　　　修改权限：

　　这样就能解决问题。

　　文章下载地址：http://files.cnblogs.com/xia520pi/HadoopCluster_Vol.7.rar

如果，您认为阅读这篇博客让您有些收获，不妨点击一下右下角的【推荐】。
如果，您希望更容易地发现我的新博客，不妨点击一下左下角的【关注我】。
如果，您对我的博客所讲述的内容有兴趣，请继续关注我的后续博客，我是【虾皮csAxp】。

本文版权归作者和博客园共有，欢迎转载，但未经作者同意必须保留此段声明，且在文章页面明显位置给出原文连接，否则保留追究法律责任的权利。

本文转自虾皮博客园博客，原文链接：http://www.cnblogs.com/xia520pi/archive/2012/05/20/2510723.html

微信关注我们

原文链接：https://yq.aliyun.com/articles/390209

转载内容版权归作者及来源网站所有！

低调大师中文资讯倾力打造互联网数据资讯、行业资源、电子商务、移动互联网、网络营销平台。持续更新报道IT业界、互联网、市场资讯、驱动更新,是最及时权威的产业资讯及硬件资讯报道平台。

Hadoop集群（第6期）_WordCount运行详解

1、MapReduce理论简介 1.1 MapReduce编程模型 MapReduce采用"分而治之"的思想，把对大规模数据集的操作，分发给一个主节点管理下的各个分节点共同完成，然后通过整合各个节点的中间结果，得到最终结果。简单地说，MapReduce就是"任务的分解与结果的汇总"。在Hadoop中，用于执行MapReduce任务的机器角色有两个：一个是JobTracker；另一个是TaskTracker，JobTracker是用于调度工作的，TaskTracker是用于执行工作的。一个Hadoop集群中只有一台JobTracker。在分布式计算中，MapReduce框架负责处理了并行编程中分布式存储、工作调度、负载均衡、容错均衡、容错处理以及网络通信等复杂问题，把处理过程高度抽象为两个函数：map和reduce，map负责把任务分解成多个任务，reduce负责把分解后多任务处理的结果汇总起来。需要注意的是，用MapReduce来处理的数据集（或任务）必须具备这样的特点：待处理的数据集可以分解成许多小的数据集，而且每一个小数据集都可以完全并行地进行处理。 1.2 MapRed...

2017-12-31

440

18.4. zabbix-agent

18.4.1.Ubuntu # sudo apt-get install zabbix-agent /etc/zabbix/zabbix_agent.conf #Server=localhost Server=your_server_ip_address # vim /etc/services zabbix-agent 10050/tcp #Zabbix Agent zabbix-agent 10050/udp #Zabbix Agent # sudo /etc/init.d/zabbix-agent restart 18.4.2.CentOS 7 yum localinstall -y http://repo.zabbix.com/zabbix/3.2/rhel/7/x86_64/zabbix-release-3.2-1.el7.noarch.rpm yum install -y zabbix-agent cp /etc/zabbix/zabbix_agentd.conf{,.original} sed -i "s/# SourceIP=/SourceIP=zabbix_server...

2018-01-01

676

发表评论

资源下载

更多资源

优质分享App

近一个月的开发和优化，本站点的第一个app全新上线。该app采用极致压缩，本体才4.36MB。系统里面做了大量数据访问、缓存优化。方便用户在手机上查看文章。后续会推出HarmonyOS的适配版本。

腾讯云软件源

为解决软件依赖安装时官方源访问速度慢的问题，腾讯云为一些软件搭建了缓存服务。您可以通过使用腾讯云软件源站来提升依赖包的安装速度。为了方便用户自由搭建服务架构，目前腾讯云软件源站支持公网访问和内网访问。

Spring

Spring框架（Spring Framework）是由Rod Johnson于2002年提出的开源Java企业级应用框架，旨在通过使用JavaBean替代传统EJB实现方式降低企业级编程开发的复杂性。该框架基于简单性、可测试性和松耦合性设计理念，提供核心容器、应用上下文、数据访问集成等模块，支持整合Hibernate、Struts等第三方框架，其适用范围不仅限于服务器端开发，绝大多数Java应用均可从中受益。

Sublime Text

Sublime Text具有漂亮的用户界面和强大的功能，例如代码缩略图，Python的插件，代码段等。还可自定义键绑定，菜单和工具栏。Sublime Text 的主要功能包括：拼写检查，书签，完整的 Python API ， Goto 功能，即时项目切换，多选择，多窗口等等。Sublime Text 是一个跨平台的编辑器，同时支持Windows、Linux、Mac OS X等操作系统。