Spark-基础-Spark编译与部署--Spark编译安装
1、编译Spark(1.1版本) Spark可以通过SBT和Maven两种方式进行编译,再通过make-distribution.sh脚本生成部署包。SBT编译需要安装git工具,而Maven安装则需要maven工具,两种方式均需要在联网下进行,通过比较发现SBT编译速度较慢(原因有可能是1、时间不一样,SBT是白天编译,Maven是深夜进行的,获取依赖包速度不同2、maven下载大文件是多线程进行,而SBT是单进程),Maven编译成功前后花了3、4个小时。 1.1编译Spark(SBT) 1.1.1安装git并编译安装 1.从如下地址下载git安装包 http://www.onlinedown.net/softdown/169333_2.htm https://www.kernel.org/pub/software/scm/git/ 如果linux是CentOS操作系统可以通过:yum install git直接进行安装 由于从https获取内容,需要安装curl-devel,可以从如下地址获取 http://rpmfind.net/linux/rpm2html/search.ph...