好程序员大数据培训分享之Hadoop的单节点集群设置(独立模式)
好程序员大数据培训分享之Hadoop的单节点集群设置(独立模式),接下来,我们就来了解一下Hadoop集群的安装。而Hadoop的安装模式有以下三种,我们一一来了解一下:
单节点上的本地模式(独立模式) :Local(Standalone)Mode
单节点的伪分布模式:Pseudo-Distributed Mode
多节点的安全分布式集群模式:Fully-Distributed Cluster
1 本地模式介绍
1.1 特点:
运行在单台机器上,没有分布式思想,使用的是本地文件系统
1.2. 用途
用于对MapReduce程序的逻辑进行调试,确保程序的正确。由于在本地模式下测试和调试MapReduce程序较为方便,因此,这种模式适宜用在开发阶段。
2 平台软件说明
- 操作系统: win10/win7
- 虚拟软件: VMware14
- 虚拟机: CentOS_7.7_64_master192.168.10.200
- 软件包存储路径: /opt/software/
- 软件安装路径: /opt/apps/
- Jdk: jdk-8u221-linux-x64.tar.gz
- Hadoop: hadoop-2.7.6.tar.gz
- 用户: root
3 环境搭建:Jdk的安装步骤
步骤1)检查一下是否已经安装过或者系统内置JDK,如果有内置的,将其卸载
[root@master ~]# rpm -qa | grep jdk
如果有,请卸载
[root@master ~]# rpm -e xxxxxxxx --nodeps #将查询到的内置jdk代替xxxxxxx
步骤2)上传jdk1.8
将jdk-8u221-linux-x64.tar.gz上传到/opt/software/目录中
步骤3)解压jdk到/opt/apps/下
[root@master ~]# cd /opt/software
[root@master software]# tar -zxvf jdk-8u221-linux-x64.tar.gz -C /opt/apps/
步骤4)更名jdk
[root@master ~]# cd /opt/apps
[root@master apps]# mv jdk1.8.0_221/ jdk
步骤5)配置Jdk的环境变量:/etc/profile
[root@master apps]# vi /etc/profile
.........省略...........
jdk environment
export JAVA_HOME=/opt/apps/jdk
export PATH=$JAVA_HOME/bin:$JAVA_HOME/jre/bin:$PATH
步骤6)使当前窗口生效
[root@master apps]# source /etc/profile
步骤7)验证jdk环境
[root@master apps]# java -version
[root@master apps]# javac
4 hadoop目录结构说明
1 Hadoop目录结构如下:(可以提前在window系统上解压,看一下)
--1. bin: hadoop的二进制执行命令文件存储目录
--2. sbin: hadoop的执行脚本存储目录
--3. etc: hadoop的配置文件存储目录
--4. lib/libexec: hadoop的资源库存储目录
--5. share:hadoop的共享资源、开发工具和案例存储目录
--6. include: hadoop的工具脚本存储目录
5 环境搭建:Hadoop的安装步骤
步骤1) 上传并解压hadoop
将hadoop软件包上传到/opt/software目录下,然后解压到/opt/apps/目录下
[root@master ~]# cd /opt/software/
[root@master software]# tar -zxvf hadoop-2.7.6.tar.gz -C /opt/apps/
步骤2)更名hadoop
[root@master software]# cd /opt/apps
[root@master apps]# mv hadoop-2.7.6/ hadoop
步骤3)配置hadoop的环境变量
[root@master apps]# vi /etc/profile
.........省略..........
hadoop environment
export HADOOP_HOME=/opt/apps/hadoop
export PATH=$HADOOP_HOME/bin:$HADOOP_HOME/sbin:$PATH
步骤4)使当前窗口生效
[root@master apps]# source /etc/profile
步骤5)验证hadoop
[root@master apps]# hadoop version
3.6 程序案例演示:grep程序
步骤1) 进入hadoop的根目录
[root@master apps]# cd $HADOOP_HOME
步骤2) 创建一个目录input
[root@master hadoop]# mkdir input
步骤3) 将$HADOOP_HOME/etc/hadoop/目录下的所有xml文件复制到input目录下
[root@master hadoop]# cp ./etc/hadoop/*.xml ./input
步骤4) 使用hadoop自带的grep程序查找input目录下的文件是否有符合正则表达式'dfs[a-z.]'的字符串
[root@master hadoop]# hadoop jar ./share/hadoop/mapreduce/hadoop-mapreduce-examples-2.7.6.jar grep input ./output 'dfs[a-z.]'
命令行内容解析:
--1. 使用hadoop命令运行jar文件
--2. 同时指定具体的jar文件的路径
--3. 使用jar文件里的grep主程序
--4. 统计当前目录下的input目录里的内容,
--5. 将统计结果输出到当前目录下的output目录
--6. 给grep指定一个正则表达式
注意:输出目录是一个不存在的目录,程序会自动生成
步骤5) 进入output目录查看part-r-00000文件
[root@master hadoop]# cd ./output
[root@master output]# cat part-r-00000
3.7 案例测试_wordcount.
[root@master hadoop]# hadoop jar ./share/hadoop/mapreduce/hadoop-mapreduce-examples-2.7.6.jar wordcount

低调大师中文资讯倾力打造互联网数据资讯、行业资源、电子商务、移动互联网、网络营销平台。
持续更新报道IT业界、互联网、市场资讯、驱动更新,是最及时权威的产业资讯及硬件资讯报道平台。
转载内容版权归作者及来源网站所有,本站原创内容转载请注明来源。
- 上一篇
如何使用MaxCompute Spark读写阿里云Hbase
背景 Spark on MaxCompute可以访问位于阿里云VPC内的实例(例如ECS、HBase、RDS),默认MaxCompute底层网络和外网是隔离的,Spark on MaxCompute提供了一种方案通过配置spark.hadoop.odps.cupid.vpc.domain.list来访问阿里云的vpc网络环境的Hbase。Hbase标准版和增强版的配置不同,本文通过访问阿里云的标准版和增强版的Hbase简单的描述需要加的配置。 Hbase标准版 环境准备Hbase的网络环境是存在vpc下的,所以我们首先要添加安全组开放端口2181、10600、16020.同时Hbase有白名单限制我们需要把对应的MaxCompute的IP加入到Hbase的白名单。设置对应vpc的安全组找到对应的vpc id然后添加安全组设置端口 添加Hb
- 下一篇
用于多文本分类的孪生和双 BERT
云栖号资讯:【点击查看更多行业资讯】在这里您可以找到不同行业的第一手的上云资讯,还在等什么,快来! 本文介绍了在模型中插入 Transformer 的不同方法。 人们对自然语言处理的不断研究催生了各种预训练模型的发展。在各种任务(如文本分类、无监督的主题建模和问题解答等)的最新结果方面,通常都有越来越多的改进,这是一个典型的现象。 最大的发现之一是在神经网络架构中采用了注意力机制(attention mechanics)。这种技术是所有称为 Transformer 的网络的基础。它们应用注意力机制来提取关于给定单词上下文的信息,然后将其编码到学习向量中。 作为数据科学家,我们可以产生并使用许多 Transformer 架构来对我们的任务进行预测或微调。在本文中,我们尽情享受经典的 BERT,但同样的推理也可以应用到其他所有的 Transformer 架构中。我们的研究范围是在双(dual)架构和孪生(siamese)架构中使用 BERT,而不是将其作为多文本输入分类的单一特征提取器。 数据 我们从 Kaggle 收集了一个数据集: News Category Dataset (新闻分类...
相关文章
文章评论
共有0条评论来说两句吧...