【Spark Summit East 2017】Spark与在线分析-低调大师

【Spark Summit East 2017】Spark与在线分析

2017-02-18 595 89

更多精彩内容参见云栖社区大数据频道https://yq.aliyun.com/big-data；此外，通过Maxcompute及其配套产品，低廉的大数据分析仅需几步，详情访问https://www.aliyun.com/product/odps。

本讲义出自Shubham Chopra在Spark Summit East 2017上的演讲，主要介绍了Spark设计初衷是作为批处理分析系统，通过缓存RDD对于迭代处理相同数据的任务进行了加速，这种模式也适用于在线分析，本次演讲中，Shubham Chopra试图定义失效能够导致大规模命中在线查询性能和可能的解决方案的特殊区域。

微信关注我们

原文链接：https://yq.aliyun.com/articles/70356

转载内容版权归作者及来源网站所有！

低调大师中文资讯倾力打造互联网数据资讯、行业资源、电子商务、移动互联网、网络营销平台。持续更新报道IT业界、互联网、市场资讯、驱动更新,是最及时权威的产业资讯及硬件资讯报道平台。

2017-02-19 00:00:00

【Spark Summit East 2017】深度探究Spark + Parquet

更多精彩内容参见云栖社区大数据频道https://yq.aliyun.com/big-data；此外，通过Maxcompute及其配套产品，低廉的大数据分析仅需几步，详情访问https://www.aliyun.com/product/odps。本讲义出自Emily Curtin and Robbie Strickland在Spark Summit East 2017上的演讲，主要介绍了使用Spark + Parquet构建的非常之快、存储高效、查询也高效的数据湖以及与之相匹配的一系列工具。演讲分享了Parquet是如何工作的以及如何从Tungsten得改进并使得SparkSQL可以利用这样的设计克服分布式分析中的两大瓶颈：通信成本和数据解码，并提供快速查询的。

582

2017-02-19 00:00:00

19【在线日志分析】之sparkdemo.jar运行在yarn上过程

1.将之前打包的jar包上传 [root@sht-sgmhadoopnn-01 spark]# pwd/root/learnproject/app/spark[root@sht-sgmhadoopnn-01 spark]# rzrz waiting to receive.Starting zmodem transfer. Press Ctrl+C to cancel.Transferring sparkdemo.jar... 100% 164113 KB 421 KB/sec 00:06:29 0 Errors 2.以下是错误 2.1 ERROR1: Exception in thread "main" java.lang.SecurityException: Invalid signature file digest for Manifest main attributesIDEA打包的jar包,需要使用zip删除指定文件zip -d sparkdemo.jar META-INF/*.RSA META-INF/*.DSA META-INF/*.SF 2.2 ERROR2: Excep...

590

资源下载

更多资源

Mario，低调大师唯一一个Java游戏作品

马里奥是站在游戏界顶峰的超人气多面角色。马里奥靠吃蘑菇成长，特征是大鼻子、头戴帽子、身穿背带裤，还留着胡子。与他的双胞胎兄弟路易基一起，长年担任任天堂的招牌角色。

Oracle Database，又名Oracle RDBMS

Oracle Database，又名Oracle RDBMS，或简称Oracle。是甲骨文公司的一款关系数据库管理系统。它是在数据库领域一直处于领先地位的产品。可以说Oracle数据库系统是目前世界上流行的关系数据库管理系统，系统可移植性好、使用方便、功能强，适用于各类大、中、小、微机环境。它是一种高效率、可靠性好的、适应高吞吐量的数据库方案。

Apache Tomcat7、8、9（Java Web服务器）

Tomcat是Apache 软件基金会（Apache Software Foundation）的Jakarta 项目中的一个核心项目，由Apache、Sun 和其他一些公司及个人共同开发而成。因为Tomcat 技术先进、性能稳定，而且免费，因而深受Java 爱好者的喜爱并得到了部分软件开发商的认可，成为目前比较流行的Web 应用服务器。

Eclipse（集成开发环境）

Eclipse 是一个开放源代码的、基于Java的可扩展开发平台。就其本身而言，它只是一个框架和一组服务，用于通过插件组件构建开发环境。幸运的是，Eclipse 附带了一个标准的插件集，包括Java开发工具（Java Development Kit，JDK）。