【Spark Summit EU 2016】在多核机器上提升Spark性能-低调大师

【Spark Summit EU 2016】在多核机器上提升Spark性能

2017-02-12 656 89

更多精彩内容参见云栖社区大数据频道https://yq.aliyun.com/big-data；此外，通过Maxcompute及其配套产品，低廉的大数据分析仅需几步，详情访问https://www.aliyun.com/product/odps。

本讲义出自Qifan Pu在Spark Summit EU 2016上的演讲，主要介绍了如何在多核机器上提升Spark的性能表现以及如何研究和实现内存shuffle。

因为Spark开始时是作为集群计算框架出现的，所以产生了多核机器上关于Spark的性能表现的研究，Spark的设计是基于多计算节点的，本讲义中Qifan Pu着重探讨了数据交互也就是shuffle。

微信关注我们

原文链接：https://yq.aliyun.com/articles/69544

转载内容版权归作者及来源网站所有！

低调大师中文资讯倾力打造互联网数据资讯、行业资源、电子商务、移动互联网、网络营销平台。持续更新报道IT业界、互联网、市场资讯、驱动更新,是最及时权威的产业资讯及硬件资讯报道平台。

【Spark Summit EU 2016】SparkSheet:将电子表格转化进Spark DataFrame

更多精彩内容参见云栖社区大数据频道https://yq.aliyun.com/big-data；此外，通过Maxcompute及其配套产品，低廉的大数据分析仅需几步，详情访问https://www.aliyun.com/product/odps。本讲义出自Oscar Castaneda在Spark Summit EU上的演讲，主要介绍了将在Excel电子表格制作的Spark原型转化为Spark程序的SparkSheet，其可以看做是Excel编译器，可以构建从Excel转化为Spark程序的直接通路，本讲义还介绍了SparkSheet的架构体系以及整个的编译过程。 Spark程序的原型可以使用Excel对其进实现，但是将Excel形式手动转化成为Spark程序却非常繁琐并且容易出错。构建Excel形式与Spark程序之间转化的直接路径可以利用DataFrame API实现Excel编译器。

741

【Spark Summit EU 2016】规模不断扩展的服务器集群上Spark的性能表征

更多精彩内容参见云栖社区大数据频道https://yq.aliyun.com/big-data；此外，通过Maxcompute及其配套产品，低廉的大数据分析仅需几步，详情访问https://www.aliyun.com/product/odps。本讲义出自Ahsan Javed Awan在Spark Summit EU 2016上的演讲，主要介绍了在服务器集群的规模不断扩展的状态下，如何获取运行于服务器集群上的Spark的性能指标并对于性能进行优化，并分享了为了使得架构设计能够提升节点级别的性能表现，该如何确定衡量指标，以及如何设计可扩展的架构。

637

资源下载

更多资源

Mario，低调大师唯一一个Java游戏作品

马里奥是站在游戏界顶峰的超人气多面角色。马里奥靠吃蘑菇成长，特征是大鼻子、头戴帽子、身穿背带裤，还留着胡子。与他的双胞胎兄弟路易基一起，长年担任任天堂的招牌角色。

Oracle Database，又名Oracle RDBMS

Oracle Database，又名Oracle RDBMS，或简称Oracle。是甲骨文公司的一款关系数据库管理系统。它是在数据库领域一直处于领先地位的产品。可以说Oracle数据库系统是目前世界上流行的关系数据库管理系统，系统可移植性好、使用方便、功能强，适用于各类大、中、小、微机环境。它是一种高效率、可靠性好的、适应高吞吐量的数据库方案。

Apache Tomcat7、8、9（Java Web服务器）

Tomcat是Apache 软件基金会（Apache Software Foundation）的Jakarta 项目中的一个核心项目，由Apache、Sun 和其他一些公司及个人共同开发而成。因为Tomcat 技术先进、性能稳定，而且免费，因而深受Java 爱好者的喜爱并得到了部分软件开发商的认可，成为目前比较流行的Web 应用服务器。

Eclipse（集成开发环境）

Eclipse 是一个开放源代码的、基于Java的可扩展开发平台。就其本身而言，它只是一个框架和一组服务，用于通过插件组件构建开发环境。幸运的是，Eclipse 附带了一个标准的插件集，包括Java开发工具（Java Development Kit，JDK）。