《Spark大数据处理：技术、应用与性能优化》—

《Spark大数据处理：技术、应用与性能优化》——1.3　Spark架构

2017-07-02 664

本节书摘来自华章计算机《Spark大数据处理：技术、应用与性能优化》一书中的第1章，第1.3节,作者:高彦杰更多章节内容可以访问云栖社区“华章计算机”公众号查看。

1.3　Spark架构

从上文介绍可以看出，Spark是整个BDAS的核心。生态系统中的各个组件通过Spark来实现对分布式并行任务处理的程序支持。
1．Spark的代码结构
图1-3展示了Spark-1.0的代码结构和代码量（不包含Test和Sample代码），读者可以通过代码架构对 Spark的整体组件有一个初步了解，正是这些代码模块构成了Spark架构中的各个组件，同时读者可以通过代码模块的脉络阅读与剖析源码，这对于了解Spark的架构和实现细节都是很有帮助的。
下面对图1-3中的各模块进行简要介绍。
scheduler：文件夹中含有负责整体的Spark应用、任务调度的代码

微信关注我们

原文链接：https://yq.aliyun.com/articles/120214

转载内容版权归作者及来源网站所有！

低调大师中文资讯倾力打造互联网数据资讯、行业资源、电子商务、移动互联网、网络营销平台。持续更新报道IT业界、互联网、市场资讯、驱动更新,是最及时权威的产业资讯及硬件资讯报道平台。

IBM推出以数据为中心、基于云端的Apache Spark开发环境

Apache Spark峰会已于本周在旧金山开幕，而微软也在昨天宣布了一个面向大数据和分析产品的Spark“扩展承诺”，包括Cortana智能套件、Power BI、以及Microsoft R Server。今天，IBM也加入了行动，并且宣布了“首款基于云端、近实时/高性能分析的开发环境”。该公司表示为将Spark开发成‘一种分析操作系统的类型’投入了3亿美元，而新推出的Data Science Experience旨在提供更轻松的大数据查询与分析，比以往更快地提取出更深入的见解。 IBM将Data Science Experience描述成一款“交互式、可协作、基于云端”的环境，数据科学家们可借助诸多工具来激发和加深他们的洞察与理解能力。 IBM Analytics高级副总裁Bob Picciano表示：此举将会加速创新，它是Apache Spark的一个杀手级应用，给予了数据和科学家们新的机会向开发者们传达“以见解所驱动”的模型，为开源社区敞开了史无前例的创新大门。 IBM早已在自家许多平台和产品上集成了Spark，去年的时候，该公司还开源了SystemML技术，以推动Spark机...

2017-07-03

568

本节书摘来自华章计算机《Spark大数据处理：技术、应用与性能优化》一书中的第1章，第1.4节,作者:高彦杰更多章节内容可以访问云栖社区“华章计算机”公众号查看。 1.4　Spark分布式架构与单机多核架构的异同我们通常所说的分布式系统主要指的是分布式软件系统，它是在通信网络互连的多处理机的架构上执行任务的软件系统，包括分布式操作系统、分布式程序设计语言、分布式文件系统和分布式数据库系统等。Spark是分布式软件系统中的分布式计算框架，基于Spark可以编写分布式计算程序和软件。为了整体宏观把握和理解分布式系统，可以将一个集群视为一台计算机。分布式计算框架的最终目的是方便用户编程，最后达到像原来编写单机程序一样编写分布式程序。但是分布式编程与编写单机程序还是存在不同点的。由于分布式架构和单机的架构有所不同，存在内存和磁盘的共享问题

2017-07-03

545

资源下载

更多资源

优质分享App

近一个月的开发和优化，本站点的第一个app全新上线。该app采用极致压缩，本体才4.36MB。系统里面做了大量数据访问、缓存优化。方便用户在手机上查看文章。后续会推出HarmonyOS的适配版本。

Nacos

Nacos /nɑ:kəʊs/ 是 Dynamic Naming and Configuration Service 的首字母简称，一个易于构建 AI Agent 应用的动态服务发现、配置管理和AI智能体管理平台。Nacos 致力于帮助您发现、配置和管理微服务及AI智能体应用。Nacos 提供了一组简单易用的特性集，帮助您快速实现动态服务发现、服务配置、服务元数据、流量管理。Nacos 帮助您更敏捷和容易地构建、交付和管理微服务平台。

Spring

Spring框架（Spring Framework）是由Rod Johnson于2002年提出的开源Java企业级应用框架，旨在通过使用JavaBean替代传统EJB实现方式降低企业级编程开发的复杂性。该框架基于简单性、可测试性和松耦合性设计理念，提供核心容器、应用上下文、数据访问集成等模块，支持整合Hibernate、Struts等第三方框架，其适用范围不仅限于服务器端开发，绝大多数Java应用均可从中受益。

Rocky Linux

Rocky Linux（中文名：洛基）是由Gregory Kurtzer于2020年12月发起的企业级Linux发行版，作为CentOS稳定版停止维护后与RHEL（Red Hat Enterprise Linux）完全兼容的开源替代方案，由社区拥有并管理，支持x86_64、aarch64等架构。其通过重新编译RHEL源代码提供长期稳定性，采用模块化包装和SELinux安全架构，默认包含GNOME桌面环境及XFS文件系统，支持十年生命周期更新。