《Spark大数据处理：技术、应用与性能优化》——1.4　Spark分布式架构与单机多核架构的异同-低调大师

《Spark大数据处理：技术、应用与性能优化》——1.4　Spark分布式架构与单机多核架构的异同

2017-07-02 523

本节书摘来自华章计算机《Spark大数据处理：技术、应用与性能优化》一书中的第1章，第1.4节,作者:高彦杰更多章节内容可以访问云栖社区“华章计算机”公众号查看。

1.4　Spark分布式架构与单机多核架构的异同

我们通常所说的分布式系统主要指的是分布式软件系统，它是在通信网络互连的多处理机的架构上执行任务的软件系统，包括分布式操作系统、分布式程序设计语言、分布式文件系统和分布式数据库系统等。Spark是分布式软件系统中的分布式计算框架，基于Spark可以编写分布式计算程序和软件。为了整体宏观把握和理解分布式系统，可以将一个集群视为一台计算机。分布式计算框架的最终目的是方便用户编程，最后达到像原来编写单机程序一样编写分布式程序。但是分布式编程与编写单机程序还是存在不同点的。由于分布式架构和单机的架构有所不同，存在内存和磁盘的共享问题

微信关注我们

原文链接：https://yq.aliyun.com/articles/120219

转载内容版权归作者及来源网站所有！

低调大师中文资讯倾力打造互联网数据资讯、行业资源、电子商务、移动互联网、网络营销平台。持续更新报道IT业界、互联网、市场资讯、驱动更新,是最及时权威的产业资讯及硬件资讯报道平台。

《Spark大数据处理：技术、应用与性能优化》——1.3　Spark架构

本节书摘来自华章计算机《Spark大数据处理：技术、应用与性能优化》一书中的第1章，第1.3节,作者:高彦杰更多章节内容可以访问云栖社区“华章计算机”公众号查看。 1.3　Spark架构从上文介绍可以看出，Spark是整个BDAS的核心。生态系统中的各个组件通过Spark来实现对分布式并行任务处理的程序支持。1．Spark的代码结构图1-3展示了Spark-1.0的代码结构和代码量（不包含Test和Sample代码），读者可以通过代码架构对 Spark的整体组件有一个初步了解，正是这些代码模块构成了Spark架构中的各个组件，同时读者可以通过代码模块的脉络阅读与剖析源码，这对于了解Spark的架构和实现细节都是很有帮助的。下面对图1-3中的各模块进行简要介绍。scheduler：文件夹中含有负责整体的Spark应用、任务调度的代码

2017-07-03

648

底层基础平台主要解决的是数据存储、计算的问题，是整个大数据生态的基石。采集到的数据，首先要能高效、快捷地存起来，才能进行数据分析和数据挖掘。这一层非常重要，同时也是技术含量最高的一层。以底层技术中明星Hadoop为例，用Hadoop的公司很多，能做Hadoop发行版的公司凤毛麟角。底层基础平台细分领域里的大数据公司众多，有专注Hadoop发行版的星环科技、红象云腾和天云大数据，有传统数据库厂商人大金仓和南大通用，有研发新型分布式数据库的巨杉数据库，还有唯一来自中国的Apache社区顶级项目Kylin背后公司Kyligence。接下来为您重点阐述国内外Hadoop生态的现状。 Hadoop兴起的原因：便宜才是硬道理进入新世纪的第一个十年，各大企业都在大力投入IT设备，建设自己的机房，上线各套办公系统。第二个十年，经济下行，传统企业的盈利下降，对IT设备的投入已经不像上个十年那般狂热，大型企业采购IT设备的经费受到控制，开始核算成本，意图在满足需求的情况下，降低投入。以Hadoop为代表的新底层技术能够兴起，抛开技术原因，最主要的原因是便宜、扩展性强。利用分布式架构，将一些性能一...

2017-07-03

645

资源下载

更多资源

优质分享App

近一个月的开发和优化，本站点的第一个app全新上线。该app采用极致压缩，本体才4.36MB。系统里面做了大量数据访问、缓存优化。方便用户在手机上查看文章。后续会推出HarmonyOS的适配版本。

Mario

马里奥是站在游戏界顶峰的超人气多面角色。马里奥靠吃蘑菇成长，特征是大鼻子、头戴帽子、身穿背带裤，还留着胡子。与他的双胞胎兄弟路易基一起，长年担任任天堂的招牌角色。

Rocky Linux

Rocky Linux（中文名：洛基）是由Gregory Kurtzer于2020年12月发起的企业级Linux发行版，作为CentOS稳定版停止维护后与RHEL（Red Hat Enterprise Linux）完全兼容的开源替代方案，由社区拥有并管理，支持x86_64、aarch64等架构。其通过重新编译RHEL源代码提供长期稳定性，采用模块化包装和SELinux安全架构，默认包含GNOME桌面环境及XFS文件系统，支持十年生命周期更新。

Sublime Text

Sublime Text具有漂亮的用户界面和强大的功能，例如代码缩略图，Python的插件，代码段等。还可自定义键绑定，菜单和工具栏。Sublime Text 的主要功能包括：拼写检查，书签，完整的 Python API ， Goto 功能，即时项目切换，多选择，多窗口等等。Sublime Text 是一个跨平台的编辑器，同时支持Windows、Linux、Mac OS X等操作系统。