《Spark大数据处理：技术、应用与性能优化》——第1章 Spark　简　介1.1　Spark是什么-低调大师

《Spark大数据处理：技术、应用与性能优化》——第1章 Spark　简　介1.1　Spark是什么

2017-07-02 537

本节书摘来自华章计算机《Spark大数据处理：技术、应用与性能优化》一书中的第1章，第1.1节,作者:高彦杰更多章节内容可以访问云栖社区“华章计算机”公众号查看。

第1章 Spark　简　介

本章主要介绍Spark大数据计算框架、架构、计算模型和数据管理策略及Spark在工业界的应用。围绕Spark的BDAS 项目及其子项目进行了简要介绍。目前，Spark生态系统已经发展成为一个包含多个子项目的集合，其中包含SparkSQL、Spark Streaming、GraphX、MLlib等子项目，本章只进行简要

1.1　Spark是什么

介绍，后续章节再详细阐述。
Spark是基于内存计算的大数据并行计算框架。Spark基于内存计算，提高了在大数据环境下数据处理的实时性，同时保证了高容错性和高可伸缩性，允许用户将Spark 部署在大量廉价硬件

微信关注我们

原文链接：https://yq.aliyun.com/articles/120200

转载内容版权归作者及来源网站所有！

低调大师中文资讯倾力打造互联网数据资讯、行业资源、电子商务、移动互联网、网络营销平台。持续更新报道IT业界、互联网、市场资讯、驱动更新,是最及时权威的产业资讯及硬件资讯报道平台。

我国首项大数据领域国际标准提案“通关”

在美国孟菲斯ISO/IEC JTC1/SC32“数据管理与交换”分技术委员会2016年全会上,中国代表团提交的大数据技术提案“SQL对MapReduce及与之相关的流数据处理的支持”完胜美国、德国,获得SC32全会决议通过。会议确认以WG3“数据库语言工作组”和中国国家成员体的名义联合申报新工作项目“数据库语言新技术设计说明第1部分:SQL对流数据的支持”。这是29年来中国首度在国际标准委员会独立提出技术提案并获通过。据悉,该项目中国国家成员体的发起人为中国电子技术标准化研究院的卫凤林和柏睿数据科技(北京)有限公司的刘睿民。评审会专家认为,该提案标志着我国大数据领域国际标准化工作取得重大突破,提升了我国在数据库语言领域的标准话语权。目前,为进一步发挥国际信息标准化大数据领域各国专家力量,保证中国在国际大数据领域刚刚已经形成的领先水平得以大力发展,真正运用到国际民生的各个领域,我国专门在国际信标委平台LiveLink网站上建立 “SQL对流数据的支持” 论坛,任命工信部中国电子技术标准化研究院的赵菁华为论坛主持人。本论坛全力支持对流数据支持的需求及相关技术问题。刘睿民认为,该提...

2017-07-03

555

Apache Spark峰会已于本周在旧金山开幕，而微软也在昨天宣布了一个面向大数据和分析产品的Spark“扩展承诺”，包括Cortana智能套件、Power BI、以及Microsoft R Server。今天，IBM也加入了行动，并且宣布了“首款基于云端、近实时/高性能分析的开发环境”。该公司表示为将Spark开发成‘一种分析操作系统的类型’投入了3亿美元，而新推出的Data Science Experience旨在提供更轻松的大数据查询与分析，比以往更快地提取出更深入的见解。 IBM将Data Science Experience描述成一款“交互式、可协作、基于云端”的环境，数据科学家们可借助诸多工具来激发和加深他们的洞察与理解能力。 IBM Analytics高级副总裁Bob Picciano表示：此举将会加速创新，它是Apache Spark的一个杀手级应用，给予了数据和科学家们新的机会向开发者们传达“以见解所驱动”的模型，为开源社区敞开了史无前例的创新大门。 IBM早已在自家许多平台和产品上集成了Spark，去年的时候，该公司还开源了SystemML技术，以推动Spark机...

2017-07-03

524

资源下载

更多资源

腾讯云软件源

为解决软件依赖安装时官方源访问速度慢的问题，腾讯云为一些软件搭建了缓存服务。您可以通过使用腾讯云软件源站来提升依赖包的安装速度。为了方便用户自由搭建服务架构，目前腾讯云软件源站支持公网访问和内网访问。

Spring

Spring框架（Spring Framework）是由Rod Johnson于2002年提出的开源Java企业级应用框架，旨在通过使用JavaBean替代传统EJB实现方式降低企业级编程开发的复杂性。该框架基于简单性、可测试性和松耦合性设计理念，提供核心容器、应用上下文、数据访问集成等模块，支持整合Hibernate、Struts等第三方框架，其适用范围不仅限于服务器端开发，绝大多数Java应用均可从中受益。

Rocky Linux

Rocky Linux（中文名：洛基）是由Gregory Kurtzer于2020年12月发起的企业级Linux发行版，作为CentOS稳定版停止维护后与RHEL（Red Hat Enterprise Linux）完全兼容的开源替代方案，由社区拥有并管理，支持x86_64、aarch64等架构。其通过重新编译RHEL源代码提供长期稳定性，采用模块化包装和SELinux安全架构，默认包含GNOME桌面环境及XFS文件系统，支持十年生命周期更新。

Sublime Text

Sublime Text具有漂亮的用户界面和强大的功能，例如代码缩略图，Python的插件，代码段等。还可自定义键绑定，菜单和工具栏。Sublime Text 的主要功能包括：拼写检查，书签，完整的 Python API ， Goto 功能，即时项目切换，多选择，多窗口等等。Sublime Text 是一个跨平台的编辑器，同时支持Windows、Linux、Mac OS X等操作系统。