Hadoop入门进阶课程7--Pig介绍、安装与应用案例

2017-11-09 635

本文版权归作者和博客园共有，欢迎转载，但未经作者同意必须保留此段声明，且在文章页面明显位置给出原文连接，博主为石山园，博客地址为 http://www.cnblogs.com/shishanyuan 。该系列课程是应邀实验楼整理编写的，这里需要赞一下实验楼提供了学习的新方式，可以边看博客边上机实验，课程地址为 https://www.shiyanlou.com/courses/237

【注】该系列所使用到安装包、测试数据和代码均可在百度网盘下载，具体地址为http://pan.baidu.com/s/10PnDs，下载该PDF文件

1、搭建环境

部署节点操作系统为CentOS，防火墙和SElinux禁用，创建了一个shiyanlou用户并在系统根目录下创建/app目录，用于存放Hadoop等组件运行包。因为该目录用于安装hadoop等组件程序，用户对shiyanlou必须赋予rwx权限（一般做法是root用户在根目录下创建/app目录，并修改该目录拥有者为shiyanlou(chown –R shiyanlou:shiyanlou /app）。

Hadoop搭建环境：

l 虚拟机操作系统： CentOS6.6 64位，单核，1G内存

l JDK：1.7.0_55 64位

l Hadoop：1.1.2

2、Pig介绍

Pig是yahoo捐献给apache的一个项目，使用SQL-like语言，是在MapReduce上构建的一种高级查询语言，把一些运算编译进MapReduce模型的Map和Reduce中。Pig 有两种运行模式： Local 模式和 MapReduce 模式

l 本地模式：Pig运行于本地模式，只涉及到单独的一台计算机

l MapReduce模式：Pig运行于MapReduce模式，需要能访问一个Hadoop集群，并且需要装上HDFS

Pig的调用方式：

l Grunt shell方式：通过交互的方式，输入命令执行任务；

l Pig script方式：通过script脚本的方式来运行任务；

嵌入式方式：嵌入java源代码中，通过java调用来运行任务。

3、搭建Pig环境

3.1 下载并解压安装包

在Apache下载最新的Pig软件包，点击下载会推荐最快的镜像站点，以下为下载地址：http://mirror.bit.edu.cn/apache/pig/

也可以在/home/shiyanlou/install-pack目录中找到该安装包，解压该安装包并把该安装包复制到/app目录中

cd /home/shiyanlou/install-pack

tar -xzf pig-0.13.0.tar.gz

mv pig-0.13.0 /app

3.2 设置环境变量

使用如下命令编辑/etc/profile文件：

sudo vi /etc/profile

设置pig的class路径和在path加入pig的路径，其中PIG_CLASSPATH参数是设置pig在MapReduce工作模式：

export PIG_HOME=/app/pig-0.13.0

export PIG_CLASSPATH=/app/hadoop-1.1.2/conf

export PATH=$PATH:$PIG_HOME/bin

编译配置文件/etc/profile，并确认生效

source /etc/profile

echo $PATH

3.3 验证安装完成

重新登录终端，确保hadoop集群启动，键入pig命令，应该能看到pig连接到hadoop集群的信息并且进入了grunt shell命令行模式：

4、测试例子

4.1 测试例子内容

在/home/shiyanlou/install-pack/class7中有website_log.zip测试数据文件，该文件是某网站访问日志，请大家使用pig计算出每个ip的点击次数，例如 123.24.56.57 13 24.53.23.123 7 34.56.78.120 20 .... 等等

4.2 程序代码

 1 //加载HDFS中访问日志，使用空格进行分割，只加载ip列
 2 records = LOAD 'hdfs://hadoop:9000/class7/input/website_log.txt' USING PigStorage(' ') AS (ip:chararray);
 3 
 4 // 按照ip进行分组，统计每个ip点击数
 5 records_b = GROUP records BY ip;
 6 records_c = FOREACH records_b GENERATE group,COUNT(records) AS click;
 7 
 8 // 按照点击数排序，保留点击数前10个的ip数据
 9 records_d = ORDER records_c by click DESC;
10 top10 = LIMIT records_d 10;
11 
12 // 把生成的数据保存到HDFS的class7目录中
13 STORE top10 INTO 'hdfs://hadoop:9000/class7/out';

4.3 准备数据

可以在/home/shiyanlou/install-pack/class7中找到本节使用的测试数据website_log.zip文件，使用unzip文件解压缩，然后调用hadoop上传本地文件命令把该文件传到HDFS中的/class7目录，如下图所示：

cd /home/shiyanlou/install-pack/class7

unzip website_log.zip

ll

hadoop fs -mkdir /class7/input

hadoop fs -copyFromLocal website_log.txt /class7/input

hadoop fs -cat /class7/input/website_log.txt | less

4.4 实现过程

4.4.1 输入代码

进入pig shell 命令行模式：

输入代码：

4.4.2 运行过程

在执行过程中在JobTracker页面观察运行情况，链接地址为：http://**.***.**.***:50030/jobtracker.jsp

点击查看具体作业信息

可以观察到本次任务分为4个作业，每个作业一次在上一次作业的结果上进行计算

4.4.3 运行结果

通过以下命令查看最后的结果：

hadoop fs -ls /class7/out

hadoop fs -cat /class7/out/part-r-00000

本文转自shishanyuan博客园博客，原文链接：http://www.cnblogs.com/shishanyuan/p/4648015.html ，如需转载请自行联系原作者

微信关注我们

原文链接：https://yq.aliyun.com/articles/570108

转载内容版权归作者及来源网站所有！

低调大师中文资讯倾力打造互联网数据资讯、行业资源、电子商务、移动互联网、网络营销平台。持续更新报道IT业界、互联网、市场资讯、驱动更新,是最及时权威的产业资讯及硬件资讯报道平台。

附录B 安装MySql数据库

B.1卸载旧的MaySql程序第一步查找以前是否安装有mysql 使用命令查看是否已经安装过mysql： #rpm -qa | grep -i mysql 如果没有结果，则可以进行mysql数据库安装第二步如果有，则先停止mysql服务并删除之前安装的mysql 如果之前安装过MySql，则先停止mysql服务、然后删除之前安装的mysql #rpm -ev MySQL-server-5.6.21-1.el6.x86_64 #rpm -ev MySQL-devel-5.6.21-1.el6.x86_64 #rpm -ev MySQL-client-5.6.21-1.el6.x86_64 如果未安装mysql，但是存在CentOS自带mysql-libs-5.1.71-1.el6.x86_64使用下面的命令卸载即可 #rpm -ev --nodeps mysql-libs-5.1.71-1.el6.x86_64 第三步查找之前老版本mysql的目录并且删除老版本mysql的文件和库 #find / -name mysql 如果存在目录，则删除对应的mysql目录，如下删除已经存在的目...

2017-11-10

485

下面来看看groupByKey和reduceByKey的区别： val conf = new SparkConf().setAppName("GroupAndReduce").setMaster("local") val sc = new SparkContext(conf) val words = Array("one", "two", "two", "three", "three", "three") val wordsRDD = sc.parallelize(words).map(word => (word, 1)) val wordsCountWithReduce = wordsRDD. reduceByKey(_ + _). collect(). foreach(println) val wordsCountWithGroup = wordsRDD. groupByKey(). map(w => (w._1, w._2.sum)). collect(). foreach(println) 虽然两个函数都能得出正确的结果，但reduceByKey函数更适合使用在大...

2017-11-10

669

资源下载

更多资源

Mario

马里奥是站在游戏界顶峰的超人气多面角色。马里奥靠吃蘑菇成长，特征是大鼻子、头戴帽子、身穿背带裤，还留着胡子。与他的双胞胎兄弟路易基一起，长年担任任天堂的招牌角色。

Nacos

Nacos /nɑ:kəʊs/ 是 Dynamic Naming and Configuration Service 的首字母简称，一个易于构建 AI Agent 应用的动态服务发现、配置管理和AI智能体管理平台。Nacos 致力于帮助您发现、配置和管理微服务及AI智能体应用。Nacos 提供了一组简单易用的特性集，帮助您快速实现动态服务发现、服务配置、服务元数据、流量管理。Nacos 帮助您更敏捷和容易地构建、交付和管理微服务平台。

Spring

Spring框架（Spring Framework）是由Rod Johnson于2002年提出的开源Java企业级应用框架，旨在通过使用JavaBean替代传统EJB实现方式降低企业级编程开发的复杂性。该框架基于简单性、可测试性和松耦合性设计理念，提供核心容器、应用上下文、数据访问集成等模块，支持整合Hibernate、Struts等第三方框架，其适用范围不仅限于服务器端开发，绝大多数Java应用均可从中受益。

Sublime Text

Sublime Text具有漂亮的用户界面和强大的功能，例如代码缩略图，Python的插件，代码段等。还可自定义键绑定，菜单和工具栏。Sublime Text 的主要功能包括：拼写检查，书签，完整的 Python API ， Goto 功能，即时项目切换，多选择，多窗口等等。Sublime Text 是一个跨平台的编辑器，同时支持Windows、Linux、Mac OS X等操作系统。