《Hadoop与大数据挖掘》一2.4.4　MapReduce组件分析与编程实践-低调大师

《Hadoop与大数据挖掘》一2.4.4　MapReduce组件分析与编程实践

2017-06-25 519

本节书摘来华章计算机《Hadoop与大数据挖掘》一书中的第2章，第2.4.4节，张良均　樊　哲　位文超　刘名军许国杰　周　龙　焦正升　著更多章节内容可以访问云栖社区“华章计算机”公众号查看。

2.4.4　MapReduce组件分析与编程实践

MapReduce整个流程包括以下步骤：输入格式（InputFormat）、Mapper、Combiner、Partitioner、Reducer、输出格式（OutputFormat）。这里会针对流程中的Combiner、Part-itioner、输入/输出格式进行分析，同时，也会介绍相关的编程技巧，如自定义键值对。
1. Combiner分析
Combiner是什么呢？从字面意思理解，Combine即合并。其实，Combiner就是对Mapper的输出进行一定的合并，减少网络输出的组件。所以，

微信关注我们

原文链接：https://yq.aliyun.com/articles/110184

转载内容版权归作者及来源网站所有！

低调大师中文资讯倾力打造互联网数据资讯、行业资源、电子商务、移动互联网、网络营销平台。持续更新报道IT业界、互联网、市场资讯、驱动更新,是最及时权威的产业资讯及硬件资讯报道平台。

《Hadoop与大数据挖掘》一2.4.3　动手实践：编写Word Count程序并打包运行

本节书摘来华章计算机《Hadoop与大数据挖掘》一书中的第2章，第2.4.3节，张良均　樊　哲　位文超　刘名军许国杰　周　龙　焦正升　著更多章节内容可以访问云栖社区“华章计算机”公众号查看。 2.4.3　动手实践：编写Word Count程序并打包运行 1）打开Eclipse，新建MapReduce工程，如图2-35、图2-36所示。需要配置Hadoop的安装目录，因为这里的Eclipse安装在Windows系统上，所以这里的Hadoop安装目录就是指Hadoop安装包的解压目录。建好的工程如图2-37所示（注意，这里还有相关jar包没有列出）。2）参考上一节的代码编写单词计数程序。 3）使用Eclipse的Export中的JAR file工具打包成jar包，如图2-38、图2-39所示。 4）获取导出的jar包，通过Linux连接

2017-06-26

497

本节书摘来华章计算机《Hadoop与大数据挖掘》一书中的第2章，第2.5节，张良均　樊　哲　位文超　刘名军许国杰　周　龙　焦正升　著更多章节内容可以访问云栖社区“华章计算机”公众号查看。 2.5　K-Means算法原理及Hadoop MapReduce实现 2.5.1　K-Means算法原理K-Means算法是硬聚类算法，是典型的基于原型的目标函数聚类方法的代表。它是将数据点到原型的某种距离作为优化的目标函数，利用函数求极值的方法得到迭代运算的调整规则（如图2-45所示）。K-Means算法以欧氏距离作为相似度测度，求对应某一初始聚类中心向量V最优分类，使得评价指标最小。算法采用误差平方和准则函数作为聚类准则函数。具体的算法步骤如下：1）随机在图中取K（这里K＝2）个种子点。2）然后对图中的所有点求到这K个种子点的距离，假如点P

2017-06-26

661

资源下载

更多资源

优质分享App

近一个月的开发和优化，本站点的第一个app全新上线。该app采用极致压缩，本体才4.36MB。系统里面做了大量数据访问、缓存优化。方便用户在手机上查看文章。后续会推出HarmonyOS的适配版本。

Apache Tomcat

Tomcat是Apache 软件基金会（Apache Software Foundation）的Jakarta 项目中的一个核心项目，由Apache、Sun 和其他一些公司及个人共同开发而成。因为Tomcat 技术先进、性能稳定，而且免费，因而深受Java 爱好者的喜爱并得到了部分软件开发商的认可，成为目前比较流行的Web 应用服务器。

JDK

JDK是 Java 语言的软件开发工具包，主要用于移动设备、嵌入式设备上的java应用程序。JDK是整个java开发的核心，它包含了JAVA的运行环境（JVM+Java系统类库）和JAVA工具。

Sublime Text

Sublime Text具有漂亮的用户界面和强大的功能，例如代码缩略图，Python的插件，代码段等。还可自定义键绑定，菜单和工具栏。Sublime Text 的主要功能包括：拼写检查，书签，完整的 Python API ， Goto 功能，即时项目切换，多选择，多窗口等等。Sublime Text 是一个跨平台的编辑器，同时支持Windows、Linux、Mac OS X等操作系统。