《Hadoop与大数据挖掘》一2.4.4　MapReduce组件分析与编程实践-低调大师

《Hadoop与大数据挖掘》一2.4.4　MapReduce组件分析与编程实践

2017-06-25 550

本节书摘来华章计算机《Hadoop与大数据挖掘》一书中的第2章，第2.4.4节，张良均　樊　哲　位文超　刘名军许国杰　周　龙　焦正升　著更多章节内容可以访问云栖社区“华章计算机”公众号查看。

2.4.4　MapReduce组件分析与编程实践

MapReduce整个流程包括以下步骤：输入格式（InputFormat）、Mapper、Combiner、Partitioner、Reducer、输出格式（OutputFormat）。这里会针对流程中的Combiner、Part-itioner、输入/输出格式进行分析，同时，也会介绍相关的编程技巧，如自定义键值对。
1. Combiner分析
Combiner是什么呢？从字面意思理解，Combine即合并。其实，Combiner就是对Mapper的输出进行一定的合并，减少网络输出的组件。所以，

微信关注我们

原文链接：https://yq.aliyun.com/articles/110184

转载内容版权归作者及来源网站所有！

低调大师中文资讯倾力打造互联网数据资讯、行业资源、电子商务、移动互联网、网络营销平台。持续更新报道IT业界、互联网、市场资讯、驱动更新,是最及时权威的产业资讯及硬件资讯报道平台。

《Hadoop与大数据挖掘》一2.4.3　动手实践：编写Word Count程序并打包运行

本节书摘来华章计算机《Hadoop与大数据挖掘》一书中的第2章，第2.4.3节，张良均　樊　哲　位文超　刘名军许国杰　周　龙　焦正升　著更多章节内容可以访问云栖社区“华章计算机”公众号查看。 2.4.3　动手实践：编写Word Count程序并打包运行 1）打开Eclipse，新建MapReduce工程，如图2-35、图2-36所示。需要配置Hadoop的安装目录，因为这里的Eclipse安装在Windows系统上，所以这里的Hadoop安装目录就是指Hadoop安装包的解压目录。建好的工程如图2-37所示（注意，这里还有相关jar包没有列出）。2）参考上一节的代码编写单词计数程序。 3）使用Eclipse的Export中的JAR file工具打包成jar包，如图2-38、图2-39所示。 4）获取导出的jar包，通过Linux连接

2017-06-26

530

本节书摘来华章计算机《Hadoop与大数据挖掘》一书中的第2章，第2.5节，张良均　樊　哲　位文超　刘名军许国杰　周　龙　焦正升　著更多章节内容可以访问云栖社区“华章计算机”公众号查看。 2.5　K-Means算法原理及Hadoop MapReduce实现 2.5.1　K-Means算法原理K-Means算法是硬聚类算法，是典型的基于原型的目标函数聚类方法的代表。它是将数据点到原型的某种距离作为优化的目标函数，利用函数求极值的方法得到迭代运算的调整规则（如图2-45所示）。K-Means算法以欧氏距离作为相似度测度，求对应某一初始聚类中心向量V最优分类，使得评价指标最小。算法采用误差平方和准则函数作为聚类准则函数。具体的算法步骤如下：1）随机在图中取K（这里K＝2）个种子点。2）然后对图中的所有点求到这K个种子点的距离，假如点P

2017-06-26

692

资源下载

更多资源

优质分享App

近一个月的开发和优化，本站点的第一个app全新上线。该app采用极致压缩，本体才4.36MB。系统里面做了大量数据访问、缓存优化。方便用户在手机上查看文章。后续会推出HarmonyOS的适配版本。

Mario

马里奥是站在游戏界顶峰的超人气多面角色。马里奥靠吃蘑菇成长，特征是大鼻子、头戴帽子、身穿背带裤，还留着胡子。与他的双胞胎兄弟路易基一起，长年担任任天堂的招牌角色。

腾讯云软件源

为解决软件依赖安装时官方源访问速度慢的问题，腾讯云为一些软件搭建了缓存服务。您可以通过使用腾讯云软件源站来提升依赖包的安装速度。为了方便用户自由搭建服务架构，目前腾讯云软件源站支持公网访问和内网访问。

Spring

Spring框架（Spring Framework）是由Rod Johnson于2002年提出的开源Java企业级应用框架，旨在通过使用JavaBean替代传统EJB实现方式降低企业级编程开发的复杂性。该框架基于简单性、可测试性和松耦合性设计理念，提供核心容器、应用上下文、数据访问集成等模块，支持整合Hibernate、Struts等第三方框架，其适用范围不仅限于服务器端开发，绝大多数Java应用均可从中受益。