《Spark大数据分析：核心概念、技术及实践》一3.10　总结-低调大师

《Spark大数据分析：核心概念、技术及实践》一3.10　总结

2017-05-01 593 89

本节书摘来自华章出版社《Spark大数据分析：核心概念、技术及实践》一书中的第3章，第3.10节，作者[美]　穆罕默德·古勒（Mohammed Guller），更多章节内容可以访问云栖社区“华章计算机”公众号查看。

3.10　总结

Spark是一个快速、可扩展、可容错且基于内存的集群计算框架。一个Spark应用可以比Hadoop应用快上100倍。

Spark不但快速而且它能很方便地使用mapReduce。通过不同语言（包括Java、Python、Scala和R）的易读的API，它可以方便地开发分布式大数据应用。使用Spark开发者的生产力可以有5～10倍的提升。

而且Spark为各种数据处理任务提供了统一的平台。它是一个通用的框架，可以被各种大数据应用使用。对于迭代式数据分析或者使用迭代算法的应用而言，它是一个理想的平台。

Spark的编

微信关注我们

原文链接：https://yq.aliyun.com/articles/88843

转载内容版权归作者及来源网站所有！

低调大师中文资讯倾力打造互联网数据资讯、行业资源、电子商务、移动互联网、网络营销平台。持续更新报道IT业界、互联网、市场资讯、驱动更新,是最及时权威的产业资讯及硬件资讯报道平台。

2017-05-02 00:00:00

《Spark大数据分析：核心概念、技术及实践》一3.9　共享变量

本节书摘来自华章出版社《Spark大数据分析：核心概念、技术及实践》一书中的第3章，第3.9节，作者[美]　穆罕默德·古勒（MohammedGuller），更多章节内容可以访问云栖社区“华章计算机”公众号查看。 3.9　共享变量 Spark使用的架构是无共享的。数据分布在集群的各个节点上，每个节点都有自己的CPU、内存和存储资源。没有全局的内存空间用于任务间共享。驱动程序和任务之间通过消息共享数据。举例来说，如果一个RDD操作的函数参数是驱动程序中变量的引用，Spark会将这个变量的副本以及任务一起发送给执行者。每个任务都有一份变量的副本并把它当成只读变量使用。任何对这个变量的更新都只存在任务的内部，改动并不会回传给驱动程序。而且Spark会把这个变量在每一个阶段的开始发送给worker节点。对于一些应用而言，这种默认行为是低效的

599

2017-05-02 00:00:00

Zoom Social-大数据告诉你谁会上头条

【导读】：谁该上头条？如何从成千上万条信息中准确定位最有价值的热点？这是个不仅让汪峰关心，也让所有媒体编辑头疼的问题。本期创业人物杨绍峰用他的创业公司Zoom Social，给这个难题提供了一个基于大数据运算的科学解答。大数据文摘原点栏目组本期与Zoom Social 的创始人– 杨绍峰交流，并跟大家分享他的创业故事以及Zoom Social的成长历程。奥斯丁的意外发现在奥斯丁小城一所酒吧里看到“twitter最热照片墙”的时候，杨绍峰有了新的发现。当时的他刚刚意识到自己研发了近三年的实时地点定位和预测产品并不容易推广，这片照片墙让他感到，自己的产品在社交媒体这个崭新的领域应该会有更好的应用。杨绍峰此时正身处全球最大音乐、电影和媒体互动盛典SXSW(South by Southwest)现场，在一个完全陌生的城市，他跟所有初来咋到

576

资源下载

更多资源

优质分享Android(本站安卓app)

近一个月的开发和优化，本站点的第一个app全新上线。该app采用极致压缩，本体才4.36MB。系统里面做了大量数据访问、缓存优化。方便用户在手机上查看文章。后续会推出HarmonyOS的适配版本。

Apache Tomcat7、8、9（Java Web服务器）

Tomcat是Apache 软件基金会（Apache Software Foundation）的Jakarta 项目中的一个核心项目，由Apache、Sun 和其他一些公司及个人共同开发而成。因为Tomcat 技术先进、性能稳定，而且免费，因而深受Java 爱好者的喜爱并得到了部分软件开发商的认可，成为目前比较流行的Web 应用服务器。

Eclipse（集成开发环境）

Eclipse 是一个开放源代码的、基于Java的可扩展开发平台。就其本身而言，它只是一个框架和一组服务，用于通过插件组件构建开发环境。幸运的是，Eclipse 附带了一个标准的插件集，包括Java开发工具（Java Development Kit，JDK）。

Sublime Text 一个代码编辑器

Sublime Text具有漂亮的用户界面和强大的功能，例如代码缩略图，Python的插件，代码段等。还可自定义键绑定，菜单和工具栏。Sublime Text 的主要功能包括：拼写检查，书签，完整的 Python API ， Goto 功能，即时项目切换，多选择，多窗口等等。Sublime Text 是一个跨平台的编辑器，同时支持Windows、Linux、Mac OS X等操作系统。