《循序渐进学Spark》一1.6　使用Spark Shell开发运行Spark程序-低调大师

《循序渐进学Spark》一1.6　使用Spark Shell开发运行Spark程序

2017-05-01 432

本节书摘来自华章出版社《循序渐进学Spark》一书中的第1章，第1.6节，作者小象学院　杨　磊，更多章节内容可以访问云栖社区“华章计算机”公众号查看。

1.6　使用Spark Shell开发运行Spark程序

Spark Shell是一种学习API的简单途径，也是分析数据集交互的有力工具。

虽然本章还没涉及Spark的具体技术细节，但从总体上说，Spark弹性数据集RDD有两种创建方式：

从文件系统输入（如HDFS）。

从已存在的RDD转换得到新的RDD。

现在我们从RDD入手，利用Spark Shell简单演示如何书写并运行Spark程序。下面以word count这个经典例子来说明。

1）启动spark shell: cd 进SPARK_HOME/bin，执行命令。

./spark-shell

2）进入scala命令行，执行如下命令：

sca

微信关注我们

原文链接：https://yq.aliyun.com/articles/87476

转载内容版权归作者及来源网站所有！

低调大师中文资讯倾力打造互联网数据资讯、行业资源、电子商务、移动互联网、网络营销平台。持续更新报道IT业界、互联网、市场资讯、驱动更新,是最及时权威的产业资讯及硬件资讯报道平台。

《Spark Cookbook 中文版》一导读

前言 Spark Cookbook 中文版随着Hadoop这个大数据平台的成功，用户的期望也水涨船高，他们既希望解决不同分析问题的功能提高，又希望减少延迟。由此，各类工具应运而生。Apache Spark这个可以解决所有问题的单一平台也出现在了Hadoop的大舞台上。“Spark一出，谁与争锋”，它终结了需要使用多种工具来完成复杂挑战和学习曲线的局面。通过使用内存进行持久化存储和计算，Apache Spark避免了磁盘上的中间存储过程并将速度提高了100倍，并且提供了一个单一平台用来完成诸如机器学习、实时streaming等诸多分析作业。目录第1章　 [开始使用Apache Spark]()1.1　 [简介]()1.2　 [使用二进制文件安装Spark]()1.3　 [通过Maven构建Spark源码]()1.4　 [在Amazon EC2上部署Spark]()1.5　 [在集群上以独立模式部署Spark]()1.6　 [在集群上使用Mesos部署Spark]()1.7　 [在集群上使用YARN部署]()1.8　 [使用Tachyon作为堆外存储层]()第2章　使用Spark开...

2017-05-02

549

《深入理解Spark:核心思想与源码分析》——3.8节TaskScheduler的启动

本节书摘来自华章社区《深入理解Spark:核心思想与源码分析》一书中的第3章，第3.8节TaskScheduler的启动，作者耿嘉安，更多章节内容可以访问云栖社区“华章社区”公众号查看 3.8　TaskScheduler的启动3.6节介绍了任务调度器TaskScheduler的创建，要想TaskScheduler发挥作用，必须要启动它，代码如下。taskScheduler.start()TaskScheduler在启动的时候，实际调用了backend的start方法。 override def start() { backend.start() } 以LocalBackend为例，启动LocalBackend时向actorSystem注册了LocalActor，见代码清单3-30所示。3.8.1　创建LocalActor创建LocalActor的过程主要是构建本地的Executor，见代码清单3-36。代码清单3-36　LocalActor的实现 private[spark] class LocalActor(scheduler: TaskSchedulerImpl, executor...

2017-05-02

513

资源下载

更多资源

优质分享Android(本站安卓app)

近一个月的开发和优化，本站点的第一个app全新上线。该app采用极致压缩，本体才4.36MB。系统里面做了大量数据访问、缓存优化。方便用户在手机上查看文章。后续会推出HarmonyOS的适配版本。

Mario，低调大师唯一一个Java游戏作品

马里奥是站在游戏界顶峰的超人气多面角色。马里奥靠吃蘑菇成长，特征是大鼻子、头戴帽子、身穿背带裤，还留着胡子。与他的双胞胎兄弟路易基一起，长年担任任天堂的招牌角色。

Oracle Database，又名Oracle RDBMS

Oracle Database，又名Oracle RDBMS，或简称Oracle。是甲骨文公司的一款关系数据库管理系统。它是在数据库领域一直处于领先地位的产品。可以说Oracle数据库系统是目前世界上流行的关系数据库管理系统，系统可移植性好、使用方便、功能强，适用于各类大、中、小、微机环境。它是一种高效率、可靠性好的、适应高吞吐量的数据库方案。

Java Development Kit(Java开发工具)

JDK是 Java 语言的软件开发工具包，主要用于移动设备、嵌入式设备上的java应用程序。JDK是整个java开发的核心，它包含了JAVA的运行环境（JVM+Java系统类库）和JAVA工具。