《Spark大数据处理：技术、应用与性能优化》—

《Spark大数据处理：技术、应用与性能优化》——1.3　Spark架构

2017-07-02 636

本节书摘来自华章计算机《Spark大数据处理：技术、应用与性能优化》一书中的第1章，第1.3节,作者:高彦杰更多章节内容可以访问云栖社区“华章计算机”公众号查看。

1.3　Spark架构

从上文介绍可以看出，Spark是整个BDAS的核心。生态系统中的各个组件通过Spark来实现对分布式并行任务处理的程序支持。
1．Spark的代码结构
图1-3展示了Spark-1.0的代码结构和代码量（不包含Test和Sample代码），读者可以通过代码架构对 Spark的整体组件有一个初步了解，正是这些代码模块构成了Spark架构中的各个组件，同时读者可以通过代码模块的脉络阅读与剖析源码，这对于了解Spark的架构和实现细节都是很有帮助的。
下面对图1-3中的各模块进行简要介绍。
scheduler：文件夹中含有负责整体的Spark应用、任务调度的代码

微信关注我们

原文链接：https://yq.aliyun.com/articles/120214

转载内容版权归作者及来源网站所有！

低调大师中文资讯倾力打造互联网数据资讯、行业资源、电子商务、移动互联网、网络营销平台。持续更新报道IT业界、互联网、市场资讯、驱动更新,是最及时权威的产业资讯及硬件资讯报道平台。

IBM推出以数据为中心、基于云端的Apache Spark开发环境

Apache Spark峰会已于本周在旧金山开幕，而微软也在昨天宣布了一个面向大数据和分析产品的Spark“扩展承诺”，包括Cortana智能套件、Power BI、以及Microsoft R Server。今天，IBM也加入了行动，并且宣布了“首款基于云端、近实时/高性能分析的开发环境”。该公司表示为将Spark开发成‘一种分析操作系统的类型’投入了3亿美元，而新推出的Data Science Experience旨在提供更轻松的大数据查询与分析，比以往更快地提取出更深入的见解。 IBM将Data Science Experience描述成一款“交互式、可协作、基于云端”的环境，数据科学家们可借助诸多工具来激发和加深他们的洞察与理解能力。 IBM Analytics高级副总裁Bob Picciano表示：此举将会加速创新，它是Apache Spark的一个杀手级应用，给予了数据和科学家们新的机会向开发者们传达“以见解所驱动”的模型，为开源社区敞开了史无前例的创新大门。 IBM早已在自家许多平台和产品上集成了Spark，去年的时候，该公司还开源了SystemML技术，以推动Spark机...

2017-07-03

523

本节书摘来自华章计算机《Spark大数据处理：技术、应用与性能优化》一书中的第1章，第1.4节,作者:高彦杰更多章节内容可以访问云栖社区“华章计算机”公众号查看。 1.4　Spark分布式架构与单机多核架构的异同我们通常所说的分布式系统主要指的是分布式软件系统，它是在通信网络互连的多处理机的架构上执行任务的软件系统，包括分布式操作系统、分布式程序设计语言、分布式文件系统和分布式数据库系统等。Spark是分布式软件系统中的分布式计算框架，基于Spark可以编写分布式计算程序和软件。为了整体宏观把握和理解分布式系统，可以将一个集群视为一台计算机。分布式计算框架的最终目的是方便用户编程，最后达到像原来编写单机程序一样编写分布式程序。但是分布式编程与编写单机程序还是存在不同点的。由于分布式架构和单机的架构有所不同，存在内存和磁盘的共享问题

2017-07-03

513

资源下载

更多资源

腾讯云软件源

为解决软件依赖安装时官方源访问速度慢的问题，腾讯云为一些软件搭建了缓存服务。您可以通过使用腾讯云软件源站来提升依赖包的安装速度。为了方便用户自由搭建服务架构，目前腾讯云软件源站支持公网访问和内网访问。

Nacos

Nacos /nɑ:kəʊs/ 是 Dynamic Naming and Configuration Service 的首字母简称，一个易于构建 AI Agent 应用的动态服务发现、配置管理和AI智能体管理平台。Nacos 致力于帮助您发现、配置和管理微服务及AI智能体应用。Nacos 提供了一组简单易用的特性集，帮助您快速实现动态服务发现、服务配置、服务元数据、流量管理。Nacos 帮助您更敏捷和容易地构建、交付和管理微服务平台。

Spring

Spring框架（Spring Framework）是由Rod Johnson于2002年提出的开源Java企业级应用框架，旨在通过使用JavaBean替代传统EJB实现方式降低企业级编程开发的复杂性。该框架基于简单性、可测试性和松耦合性设计理念，提供核心容器、应用上下文、数据访问集成等模块，支持整合Hibernate、Struts等第三方框架，其适用范围不仅限于服务器端开发，绝大多数Java应用均可从中受益。

Sublime Text

Sublime Text具有漂亮的用户界面和强大的功能，例如代码缩略图，Python的插件，代码段等。还可自定义键绑定，菜单和工具栏。Sublime Text 的主要功能包括：拼写检查，书签，完整的 Python API ， Goto 功能，即时项目切换，多选择，多窗口等等。Sublime Text 是一个跨平台的编辑器，同时支持Windows、Linux、Mac OS X等操作系统。