《循序渐进学Spark》一1.6　使用Spark Shell开发运行Spark程序-低调大师

《循序渐进学Spark》一1.6　使用Spark Shell开发运行Spark程序

2017-05-01 439

本节书摘来自华章出版社《循序渐进学Spark》一书中的第1章，第1.6节，作者小象学院　杨　磊，更多章节内容可以访问云栖社区“华章计算机”公众号查看。

1.6　使用Spark Shell开发运行Spark程序

Spark Shell是一种学习API的简单途径，也是分析数据集交互的有力工具。

虽然本章还没涉及Spark的具体技术细节，但从总体上说，Spark弹性数据集RDD有两种创建方式：

从文件系统输入（如HDFS）。

从已存在的RDD转换得到新的RDD。

现在我们从RDD入手，利用Spark Shell简单演示如何书写并运行Spark程序。下面以word count这个经典例子来说明。

1）启动spark shell: cd 进SPARK_HOME/bin，执行命令。

./spark-shell

2）进入scala命令行，执行如下命令：

sca

微信关注我们

原文链接：https://yq.aliyun.com/articles/87476

转载内容版权归作者及来源网站所有！

低调大师中文资讯倾力打造互联网数据资讯、行业资源、电子商务、移动互联网、网络营销平台。持续更新报道IT业界、互联网、市场资讯、驱动更新,是最及时权威的产业资讯及硬件资讯报道平台。

《Spark Cookbook 中文版》一导读

前言 Spark Cookbook 中文版随着Hadoop这个大数据平台的成功，用户的期望也水涨船高，他们既希望解决不同分析问题的功能提高，又希望减少延迟。由此，各类工具应运而生。Apache Spark这个可以解决所有问题的单一平台也出现在了Hadoop的大舞台上。“Spark一出，谁与争锋”，它终结了需要使用多种工具来完成复杂挑战和学习曲线的局面。通过使用内存进行持久化存储和计算，Apache Spark避免了磁盘上的中间存储过程并将速度提高了100倍，并且提供了一个单一平台用来完成诸如机器学习、实时streaming等诸多分析作业。目录第1章　 [开始使用Apache Spark]()1.1　 [简介]()1.2　 [使用二进制文件安装Spark]()1.3　 [通过Maven构建Spark源码]()1.4　 [在Amazon EC2上部署Spark]()1.5　 [在集群上以独立模式部署Spark]()1.6　 [在集群上使用Mesos部署Spark]()1.7　 [在集群上使用YARN部署]()1.8　 [使用Tachyon作为堆外存储层]()第2章　使用Spark开...

2017-05-02

558

本节书摘来自华章社区《深入理解Spark:核心思想与源码分析》一书中的第3章，第3.8节TaskScheduler的启动，作者耿嘉安，更多章节内容可以访问云栖社区“华章社区”公众号查看 3.8　TaskScheduler的启动3.6节介绍了任务调度器TaskScheduler的创建，要想TaskScheduler发挥作用，必须要启动它，代码如下。taskScheduler.start()TaskScheduler在启动的时候，实际调用了backend的start方法。 override def start() { backend.start() } 以LocalBackend为例，启动LocalBackend时向actorSystem注册了LocalActor，见代码清单3-30所示。3.8.1　创建LocalActor创建LocalActor的过程主要是构建本地的Executor，见代码清单3-36。代码清单3-36　LocalActor的实现 private[spark] class LocalActor(scheduler: TaskSchedulerImpl, executor...

2017-05-02

521

资源下载

更多资源

优质分享App

近一个月的开发和优化，本站点的第一个app全新上线。该app采用极致压缩，本体才4.36MB。系统里面做了大量数据访问、缓存优化。方便用户在手机上查看文章。后续会推出HarmonyOS的适配版本。

腾讯云软件源

为解决软件依赖安装时官方源访问速度慢的问题，腾讯云为一些软件搭建了缓存服务。您可以通过使用腾讯云软件源站来提升依赖包的安装速度。为了方便用户自由搭建服务架构，目前腾讯云软件源站支持公网访问和内网访问。

Nacos

Nacos /nɑ:kəʊs/ 是 Dynamic Naming and Configuration Service 的首字母简称，一个易于构建 AI Agent 应用的动态服务发现、配置管理和AI智能体管理平台。Nacos 致力于帮助您发现、配置和管理微服务及AI智能体应用。Nacos 提供了一组简单易用的特性集，帮助您快速实现动态服务发现、服务配置、服务元数据、流量管理。Nacos 帮助您更敏捷和容易地构建、交付和管理微服务平台。

Spring

Spring框架（Spring Framework）是由Rod Johnson于2002年提出的开源Java企业级应用框架，旨在通过使用JavaBean替代传统EJB实现方式降低企业级编程开发的复杂性。该框架基于简单性、可测试性和松耦合性设计理念，提供核心容器、应用上下文、数据访问集成等模块，支持整合Hibernate、Struts等第三方框架，其适用范围不仅限于服务器端开发，绝大多数Java应用均可从中受益。