hadoop&spark安装（下）-低调大师

hadoop&spark安装（下）

2017-11-11 685

上一遍文章中其实最主要的就是JAVA环境变量以及hadoop环境变量的设置，这两个设置好了的话，运行hadoop基本上不会出问题。

在hadoop的基础上安装spark好简单。

安装Spark之前需要先安装Hadoop集群，因为之前已经安装了hadoop，所以我直接在之前的hadoop集群上安装spark。

硬件环境：

hddcluster1 10.0.0.197 redhat7

hddcluster2 10.0.0.228 centos7 这台作为master

hddcluster3 10.0.0.202 redhat7

hddcluster4 10.0.0.181 centos7

软件环境：

scala-2.11.7

spark-2.0.2-bin-hadoop2.7.tgz

#所有操作用hadoop

基本流程：

1、master解压scala-2.11.7和spark-2.0.2-bin-hadoop2.7.tgz到相应的目录

2、配置scala和spark环境变量

3、修改配置文件

4、拷贝scala和spark到各个节点，授权

5、启动spark集群

 
        #hadoop用户下操作，下载scala,安装
       
        wget http:
        //downloads
        .lightbend.com
        /scala/2
        .11.7
        /scala-2
        .11.7.tgz 
       
        tar 
        -zxvf scala-2.11.7.tgz  
       
        mv 
        scala-2.11.7 
        /usr/local/scala 
       
        sudo 
        mv 
        scala-2.11.7 
        /usr/local/scala 
       
        vim .bashrc     
        #添加 
       
        export 
        SCALA_HOME=
        /usr/local/scala 
       
        export 
        PATH=$PATH:$HADOOP_HOME
        /sbin
        :$HADOOP_HOME
        /bin
        :$SCALA_HOME
        /bin 
       
        source 
        .bashrc 
       
        [hadoop@hddcluster2 ~]$ scala -version
       
        Scala code runner version 2.11.7 -- Copyright 2002-2013, LAMP
        /EPFL

 
        #在官网下载spark-2.0.2-bin-hadoop2.7.tgz
       
        tar 
        -zxvf spark-2.0.2-bin-hadoop2.7.tgz 
       
        mv  
        spark-2.0.2-bin-hadoop2.7 spark 
       
        sudo 
        mv 
        spark 
        /usr/local/ 
       
        vim .bashrc   
        #添加 
       
        export 
        SPARK_HOME=
        /usr/local/spark 
       
        export 
        PATH=$PATH:$HADOOP_HOME
        /sbin
        :$HADOOP_HOME
        /bin
        :$SCALA_HOME
        /bin
        :$SPARK_HOME

 
        #修改spark配置文件
       
        cd 
        /usr/local/spark/conf 
       
        cp 
        spark-
        env
        .sh.template spark-
        env
        .sh 
       
        vi 
        spark-
        env
        .sh   
        #添加下面内容 
       
        ###jdk dir
       
        export 
        JAVA_HOME=
        /usr/lib/jvm/java-1
        .8.0-openjdk-1.8.0.111-2.b15.el7_3.x86_64 
       
        ###scala dir
       
        export 
        SCALA_HOME=
        /usr/local/scala 
       
        ###the ip of master node of spark
       
        export 
        SPARK_MASTER_IP=10.0.0.228 
       
        ###the max memory size of worker
       
        export 
        SPARK_WORKER_MEMORY=8G 
       
        ###hadoop configuration file dir
       
        export 
        HADOOP_CONF_DIR=
        /usr/local/hadoop/etc/hadoop/ 
       
        #修改slave
       
        cp 
        slaves.template slaves 
       
        vi 
        slaves   
        #把localhost改为下面内容 
       
        hddcluster1
       
        hddcluster2
       
        hddcluster3
       
        hddcluster4

 
        #把/usr/local/spark 和 /usr/local/scala打包，然后复制到slave节点、
       
        cd 
        /usr/local 
       
        tar 
        -zcf ~
        /master
        .spark.
        tar
        .gz  .
        /spark 
       
        tar 
        -zcf ~
        /master
        .scala.
        tar
        .gz  .
        /scala 
       
        scp 
        master.spark.
        tar
        .gz hddcluster1:~ 
       
        scp 
        master.scala.
        tar
        .gz hddcluster1:~ 
       
        #登录各个节点进行解压到/usr/local
       
        tar 
        -zxf master.spark.
        tar
        .gz -C 
        /usr/local/ 
       
        tar 
        -zxf master.scala.
        tar
        .gz -C 
        /usr/local/ 
       
        chown 
        -R hadoop:hadoop 
        /usr/local/spark 
       
        chown 
        -R hadoop:hadoop 
        /usr/local/scala 
       
        再配置.bashrc环境变量和master的一样。
       
        加上hadoop上一篇的.bashrc内容是这样子：
       
        #scala
       
        export 
        SCALA_HOME=
        /usr/local/scala 
       
        #spark
       
        export 
        SPARK_HOME=
        /usr/local/spark 
       
        #java and hadoop
       
        export 
        JAVA_HOME=
        /usr/lib/jvm/java-1
        .8.0-openjdk-1.8.0.111-2.b15.el7_3.x86_64 
       
        export 
        HADOOP_HOME=
        /usr/local/hadoop 
       
        export 
        HADOOP_INSTALL=$HADOOP_HOME 
       
        export 
        HADOOP_MAPRED_HOME=$HADOOP_HOME 
       
        export 
        HADOOP_COMMON_HOME=$HADOOP_HOME 
       
        export 
        HADOOP_HDFS_HOME=$HADOOP_HOME 
       
        export 
        YARN_HOME=$HADOOP_HOME 
       
        export 
        HADOOP_COMMON_LIB_NATIVE_DIR=$HADOOP_HOME
        /lib/native 
       
        export 
        PATH=$PATH:$HADOOP_HOME
        /sbin
        :$HADOOP_HOME
        /bin
        :$SCALA_HOME
        /bin
        :$SPARK_HOME 
       
        export 
        HADOOP_PREFIX=$HADOOP_HOME 
       
        export 
        HADOOP_OPTS=
        "-Djava.library.path=$HADOOP_PREFIX/lib:$HADOOP_PREFIX/lib/native" 
       
        到此Spark集群搭建完毕

 
        .启动Spark集群：
       
        启动Spark之前需要先将hadoop的dfs以及yarn启动。
       
        /usr/local/spark/sbin/start-all
        .sh 
       
        启动所有服务之后，在命令行输入jps: 
       
        [hadoop@hddcluster2 ~]$ jps
       
        29601 ResourceManager
       
        32098 SparkSubmit
       
        29188 DataNode
       
        29364 SecondaryNameNode
       
        29062 NameNode
       
        29915 NodeManager
       
        30251 Master
       
        30380 Worker
       
        30062 JobHistoryServer
       
        18767 Jps
       
        比hadoop集群启动时多了Master和worker 
       
        /usr/local/spark/bin/spark-shell
        .sh 
       
        出现scala>时说明成功。
       
        在浏览器中输入10.0.0.228:8080时，会看到如下图，有4个Worker

本文转自 yanconggod 51CTO博客，原文链接:http://blog.51cto.com/yanconggod/1885082

微信关注我们

原文链接：https://yq.aliyun.com/articles/507682

转载内容版权归作者及来源网站所有！

低调大师中文资讯倾力打造互联网数据资讯、行业资源、电子商务、移动互联网、网络营销平台。持续更新报道IT业界、互联网、市场资讯、驱动更新,是最及时权威的产业资讯及硬件资讯报道平台。

hadoop&spark安装（上）

硬件环境： hddcluster1 10.0.0.197 redhat7 hddcluster2 10.0.0.228 centos7 这台作为master hddcluster3 10.0.0.202 redhat7 hddcluster4 10.0.0.181 centos7 软件环境：关闭所有防火墙firewall openssh-clients openssh-server java-1.8.0-openjdk java-1.8.0-openjdk-devel hadoop-2.7.3.tar.gz 流程：选定一台机器作为 Master 在 Master 节点上配置 hadoop 用户、安装 SSH server、安装 Java 环境在 Master 节点上安装 Hadoop，并完成配置在其他 Slave 节点上配置 hadoop 用户、安装 SSH server、安装 Java 环境将 Master 节点上的 /usr/local/hadoop 目录复制到其他 Slave 节点上在 Master 节点上开启 Hadoop 1 2 3 4 5 6 7 8 #节点的名...

2017-11-12

602

这套题的出处是http://blog.51cto.com/nolinux/1670406 ，看到了周末闲着没事就做一做，答案都是我结合自己的工作得到的，不一定百分百准确，现在拿出来跟各位分享一番。 1、请写出五种系统性能分析工具，并简述其作用和特点 [我的答案] top、free、vmstat、iostat、perf等等等等，如果你想装逼，可以回答fio,blktrace，oprofile。具体的作用和特点这里不多说了，但是我着重要推荐vmstat，很实用很棒的一个命令。可以去移步看看https://rorschachchan.github.io/2018/01/03/从vmstat命令里看服务器瓶颈/这篇文章。 2、请写出web服务器的调优要点 [我的答案]以nginx为例，个人总结有如下几个要点： 1）尽可能的少用http，因为http是有开销的； 2）尽可能的使用CDN； 3）添加Expire/Cache-Control头，这个头是缓存用的，可以缓存图片和flash那样不轻易更改的文件，减少访问时间； 4）启动gzip压缩，这个没啥好说的了； 5）尽可能少的重定向，重定向是需要...

2017-11-12

540

资源下载

更多资源

优质分享App

近一个月的开发和优化，本站点的第一个app全新上线。该app采用极致压缩，本体才4.36MB。系统里面做了大量数据访问、缓存优化。方便用户在手机上查看文章。后续会推出HarmonyOS的适配版本。

Nacos

Nacos /nɑ:kəʊs/ 是 Dynamic Naming and Configuration Service 的首字母简称，一个易于构建 AI Agent 应用的动态服务发现、配置管理和AI智能体管理平台。Nacos 致力于帮助您发现、配置和管理微服务及AI智能体应用。Nacos 提供了一组简单易用的特性集，帮助您快速实现动态服务发现、服务配置、服务元数据、流量管理。Nacos 帮助您更敏捷和容易地构建、交付和管理微服务平台。

Rocky Linux

Rocky Linux（中文名：洛基）是由Gregory Kurtzer于2020年12月发起的企业级Linux发行版，作为CentOS稳定版停止维护后与RHEL（Red Hat Enterprise Linux）完全兼容的开源替代方案，由社区拥有并管理，支持x86_64、aarch64等架构。其通过重新编译RHEL源代码提供长期稳定性，采用模块化包装和SELinux安全架构，默认包含GNOME桌面环境及XFS文件系统，支持十年生命周期更新。

Sublime Text

Sublime Text具有漂亮的用户界面和强大的功能，例如代码缩略图，Python的插件，代码段等。还可自定义键绑定，菜单和工具栏。Sublime Text 的主要功能包括：拼写检查，书签，完整的 Python API ， Goto 功能，即时项目切换，多选择，多窗口等等。Sublime Text 是一个跨平台的编辑器，同时支持Windows、Linux、Mac OS X等操作系统。