《Spark大数据处理：技术、应用与性能优化》——1.4　Spark分布式架构与单机多核架构的异同-低调大师

《Spark大数据处理：技术、应用与性能优化》——1.4　Spark分布式架构与单机多核架构的异同

2017-07-02 554

本节书摘来自华章计算机《Spark大数据处理：技术、应用与性能优化》一书中的第1章，第1.4节,作者:高彦杰更多章节内容可以访问云栖社区“华章计算机”公众号查看。

1.4　Spark分布式架构与单机多核架构的异同

我们通常所说的分布式系统主要指的是分布式软件系统，它是在通信网络互连的多处理机的架构上执行任务的软件系统，包括分布式操作系统、分布式程序设计语言、分布式文件系统和分布式数据库系统等。Spark是分布式软件系统中的分布式计算框架，基于Spark可以编写分布式计算程序和软件。为了整体宏观把握和理解分布式系统，可以将一个集群视为一台计算机。分布式计算框架的最终目的是方便用户编程，最后达到像原来编写单机程序一样编写分布式程序。但是分布式编程与编写单机程序还是存在不同点的。由于分布式架构和单机的架构有所不同，存在内存和磁盘的共享问题

微信关注我们

原文链接：https://yq.aliyun.com/articles/120219

转载内容版权归作者及来源网站所有！

低调大师中文资讯倾力打造互联网数据资讯、行业资源、电子商务、移动互联网、网络营销平台。持续更新报道IT业界、互联网、市场资讯、驱动更新,是最及时权威的产业资讯及硬件资讯报道平台。

《Spark大数据处理：技术、应用与性能优化》——1.3　Spark架构

本节书摘来自华章计算机《Spark大数据处理：技术、应用与性能优化》一书中的第1章，第1.3节,作者:高彦杰更多章节内容可以访问云栖社区“华章计算机”公众号查看。 1.3　Spark架构从上文介绍可以看出，Spark是整个BDAS的核心。生态系统中的各个组件通过Spark来实现对分布式并行任务处理的程序支持。1．Spark的代码结构图1-3展示了Spark-1.0的代码结构和代码量（不包含Test和Sample代码），读者可以通过代码架构对 Spark的整体组件有一个初步了解，正是这些代码模块构成了Spark架构中的各个组件，同时读者可以通过代码模块的脉络阅读与剖析源码，这对于了解Spark的架构和实现细节都是很有帮助的。下面对图1-3中的各模块进行简要介绍。scheduler：文件夹中含有负责整体的Spark应用、任务调度的代码

2017-07-03

672

底层基础平台主要解决的是数据存储、计算的问题，是整个大数据生态的基石。采集到的数据，首先要能高效、快捷地存起来，才能进行数据分析和数据挖掘。这一层非常重要，同时也是技术含量最高的一层。以底层技术中明星Hadoop为例，用Hadoop的公司很多，能做Hadoop发行版的公司凤毛麟角。底层基础平台细分领域里的大数据公司众多，有专注Hadoop发行版的星环科技、红象云腾和天云大数据，有传统数据库厂商人大金仓和南大通用，有研发新型分布式数据库的巨杉数据库，还有唯一来自中国的Apache社区顶级项目Kylin背后公司Kyligence。接下来为您重点阐述国内外Hadoop生态的现状。 Hadoop兴起的原因：便宜才是硬道理进入新世纪的第一个十年，各大企业都在大力投入IT设备，建设自己的机房，上线各套办公系统。第二个十年，经济下行，传统企业的盈利下降，对IT设备的投入已经不像上个十年那般狂热，大型企业采购IT设备的经费受到控制，开始核算成本，意图在满足需求的情况下，降低投入。以Hadoop为代表的新底层技术能够兴起，抛开技术原因，最主要的原因是便宜、扩展性强。利用分布式架构，将一些性能一...

2017-07-03

674

资源下载

更多资源

优质分享App

近一个月的开发和优化，本站点的第一个app全新上线。该app采用极致压缩，本体才4.36MB。系统里面做了大量数据访问、缓存优化。方便用户在手机上查看文章。后续会推出HarmonyOS的适配版本。

腾讯云软件源

为解决软件依赖安装时官方源访问速度慢的问题，腾讯云为一些软件搭建了缓存服务。您可以通过使用腾讯云软件源站来提升依赖包的安装速度。为了方便用户自由搭建服务架构，目前腾讯云软件源站支持公网访问和内网访问。

Nacos

Nacos /nɑ:kəʊs/ 是 Dynamic Naming and Configuration Service 的首字母简称，一个易于构建 AI Agent 应用的动态服务发现、配置管理和AI智能体管理平台。Nacos 致力于帮助您发现、配置和管理微服务及AI智能体应用。Nacos 提供了一组简单易用的特性集，帮助您快速实现动态服务发现、服务配置、服务元数据、流量管理。Nacos 帮助您更敏捷和容易地构建、交付和管理微服务平台。

Spring

Spring框架（Spring Framework）是由Rod Johnson于2002年提出的开源Java企业级应用框架，旨在通过使用JavaBean替代传统EJB实现方式降低企业级编程开发的复杂性。该框架基于简单性、可测试性和松耦合性设计理念，提供核心容器、应用上下文、数据访问集成等模块，支持整合Hibernate、Struts等第三方框架，其适用范围不仅限于服务器端开发，绝大多数Java应用均可从中受益。