《Spark与Hadoop大数据分析》——3.7　小结-低调大师

《Spark与Hadoop大数据分析》——3.7　小结

2017-08-31 543

3.7　小结

RDD 是 Spark 中基本的数据单元，Spark 编程就是围绕创建和执行 RDD 上的操作（如变换和动作）进行的。Apache Spark 程序可以在 shell 中交互式执行或通过提交应用程序来执行。它的并行度是由 RDD 中的分区数量决定的。而分区的数量则由 HDFS 文件中的区块数或资源管理器的类型以及用于非 HDFS 文件的配置属性决定。

在内存中缓存 RDD 对于在同一 RDD 上执行多个动作是有用的，因为它提供了更高的性能。当使用 MEMORY_ONLY选项缓存 RDD 时，没有放入内存中的分区将在需要时重新计算。如果重新计算的开销比较大，最好还是选择 MEMORY_AND_DISK 作为持久化的级别。

Spark 的应用程序可以在客户端或集群模式下提交。客户端模式用于开发和测试，而集群模式用于生产部署。S

微信关注我们

原文链接：https://yq.aliyun.com/articles/212322

转载内容版权归作者及来源网站所有！

低调大师中文资讯倾力打造互联网数据资讯、行业资源、电子商务、移动互联网、网络营销平台。持续更新报道IT业界、互联网、市场资讯、驱动更新,是最及时权威的产业资讯及硬件资讯报道平台。

《Spark与Hadoop大数据分析》——3.5　持久化与缓存

3.5　持久化与缓存 Spark 的一个独特功能是在内存中持久化 RDD。你可以使用 persist 或 cache 变换来持久化 RDD，如下所示：上述两个语句都是相同的，并且会在 MEMORY_ONLY 存储级别缓存数据。它们的区别在于：cache 是指 MEMORY_ONLY 存储级别，而 persist 可以根据需要选择不同的存储级别，如下表所示。当第一次使用动作来进行计算时，它将保存在节点上的内存中。了解缓存 RDD 的百分比及其大小的最简单方法是检查管理界面中的 Storage 选项卡，如图3-11 所示： 3.5.1　存储级别根据应用需求的需要，RDD 可以用不同的存储级别来存储。下表显示了 Spark 的存储级别及其含义。 3.5.2　应该选择哪个存储级别 Spark 的各个存储级别在内存占用和 CPU 效率之间提供不同的

2017-09-01

624

本周在加州旧金山举行的RSA 2017大会上，HPE宣布推出了这个新的HPE SecureData for Hadoop and IoT解决方案，将HPE Format-preserving Encryption (FPE)带入由物联网创建的大量数据流。这次发布还增加了Apache NiFi，一个用于在不同系统之间自动迁移数据的平台，集成了NIST标准和FIPS法规遵从技术。 HPE全球产品营销负责人Sheryl Wharff表示，新产品的关键是确保物联网中越来越多的设备产生的数据的安全性。该解决方案会验证由物联网产生的数据，并确保这些数据在静态、传输送和使用中的安全性，从而帮助合作伙伴通过数据和分析实现物联网的真正价值。 “这是一次令人兴奋的产品补充，帮助我们的合作伙伴推动大数据和物联网解决方案，”Wharff表示。“对我们的合作伙伴来说，这将带来不同等级的安全性，如今该市场中其他任何人都无法实现的等级。” 去年HPE承诺将把越来越多的安全产品组合推向渠道，从自己的数据安全产品组合开始，此前这些产品只是直销的方式。Wharff表示，新产品是HPE对渠道持续承诺的一个信号。 “我们...

2017-09-01

475

资源下载

更多资源

优质分享App

近一个月的开发和优化，本站点的第一个app全新上线。该app采用极致压缩，本体才4.36MB。系统里面做了大量数据访问、缓存优化。方便用户在手机上查看文章。后续会推出HarmonyOS的适配版本。

Mario

马里奥是站在游戏界顶峰的超人气多面角色。马里奥靠吃蘑菇成长，特征是大鼻子、头戴帽子、身穿背带裤，还留着胡子。与他的双胞胎兄弟路易基一起，长年担任任天堂的招牌角色。

Spring

Spring框架（Spring Framework）是由Rod Johnson于2002年提出的开源Java企业级应用框架，旨在通过使用JavaBean替代传统EJB实现方式降低企业级编程开发的复杂性。该框架基于简单性、可测试性和松耦合性设计理念，提供核心容器、应用上下文、数据访问集成等模块，支持整合Hibernate、Struts等第三方框架，其适用范围不仅限于服务器端开发，绝大多数Java应用均可从中受益。

Sublime Text

Sublime Text具有漂亮的用户界面和强大的功能，例如代码缩略图，Python的插件，代码段等。还可自定义键绑定，菜单和工具栏。Sublime Text 的主要功能包括：拼写检查，书签，完整的 Python API ， Goto 功能，即时项目切换，多选择，多窗口等等。Sublime Text 是一个跨平台的编辑器，同时支持Windows、Linux、Mac OS X等操作系统。