《Spark与Hadoop大数据分析》一一3.5　持久化与缓存-低调大师

《Spark与Hadoop大数据分析》一一3.5　持久化与缓存

2017-07-02 676

本节书摘来自华章计算机《Spark与Hadoop大数据分析》一书中的第3章，第3.5节,作者：文卡特·安卡姆（Venkat Ankam）更多章节内容可以访问云栖社区“华章计算机”公众号查看。

3.5　持久化与缓存

Spark 的一个独特功能是在内存中持久化 RDD。你可以使用 persist 或 cache 变换来持久化 RDD，如下所示：

上述两个语句都是相同的，并且会在 MEMORY_ONLY 存储级别缓存数据。它们的区别在于：cache 是指 MEMORY_ONLY 存储级别，而 persist 可以根据需要选择不同的存储级别，如下表所示。当第一次使用动作来进行计算时，它将保存在节点上的内存中。了解缓存 RDD 的百分比及其大小的最简单方法是检查管理界面中的 Storage 选项卡，如图3-11 所示：

图3-11　缓存的 RDD

微信关注我们

原文链接：https://yq.aliyun.com/articles/117481

转载内容版权归作者及来源网站所有！

低调大师中文资讯倾力打造互联网数据资讯、行业资源、电子商务、移动互联网、网络营销平台。持续更新报道IT业界、互联网、市场资讯、驱动更新,是最及时权威的产业资讯及硬件资讯报道平台。

CIO:主流大数据厂商汇总分类

目前国内外做大数据的厂商依旧分为两类：一类是现在已经有获取大数据能力的公司，他们打算利用自身优势地位冲击大数据领域，将现有安装基础及产品线口碑推广到新一轮技术浪潮当中。如IBM、微软、谷歌、亚马逊、百度、腾讯、阿里巴巴等互联网巨头以及华为、浪潮、中兴等国内领军企业，涵盖了数据采集，数据存储，数据分析，数据可视化以及数据安全等领域;另一类则是初创的大数据公司，他们依赖于大数据工具，针对市场需求，为市场带来创新方案并推动技术发展。其中大部分的大数据应用还是需要第三方公司提供服务，希望为市场带来创新方案并推动技术发展。本文将主流的大数据厂商分为大数据基础设施类，大数据分析类，大数据应用类，大数据数据源类等。下面就来盘点下大数据领域国内外的主力阵营吧，其中一些早已名满天下，另外大部分则属初来乍到。 1. 大数据基础设施类 1)硬件类主要厂商有IBM、HP、DELL、华为、联想、浪潮、中兴、云创大数据等。 2)软件类基于大数据基础设施提供云服务的有Amazon Web Service Elastic MapReduce、Google Big Query、Infochimps、Microso...

2017-07-03

471

近日，IBM公布了全新的四项数据服务，允许用户对自身数据进行分析，并且能够访问IBM的数据集。这意味着，IBM可以将部分数据部署到包括私有云在内的云平台上。根据IBM公布的信息，这四项服务分别为Analytics Exchange（分析交换）、Compose Enterprise（企业及数据库服务）、Graph（图形数据库服务）和Predictive Analytics（预测分析）。其中，Analytics Exchange涉及超过150个公共数据集，数据类别包括通信、经济、地理、政务、交通等等。例如，它包括全球手机订阅的统计数据，或者世界上所有国家的水道统计数据。目前，这项服务还在测试中。 Compose Enterprise是基于被IBM收购的一家公司Compose原有的成果基础上改进的，这项服务会在2016年3月初发布。该服务包括多个数据库——MongoDB，Redis，Elasticsearch，PostgreSQL和RethinkDB，通过RabbitMQ实现消息队列。用户可以在IBM的SoftLayer上安装服务，也可以在AWS集群或专用服务器上安装。 Graph是一个...

2017-07-03

469

资源下载

更多资源

优质分享App

近一个月的开发和优化，本站点的第一个app全新上线。该app采用极致压缩，本体才4.36MB。系统里面做了大量数据访问、缓存优化。方便用户在手机上查看文章。后续会推出HarmonyOS的适配版本。

Mario

马里奥是站在游戏界顶峰的超人气多面角色。马里奥靠吃蘑菇成长，特征是大鼻子、头戴帽子、身穿背带裤，还留着胡子。与他的双胞胎兄弟路易基一起，长年担任任天堂的招牌角色。

Nacos

Nacos /nɑ:kəʊs/ 是 Dynamic Naming and Configuration Service 的首字母简称，一个易于构建 AI Agent 应用的动态服务发现、配置管理和AI智能体管理平台。Nacos 致力于帮助您发现、配置和管理微服务及AI智能体应用。Nacos 提供了一组简单易用的特性集，帮助您快速实现动态服务发现、服务配置、服务元数据、流量管理。Nacos 帮助您更敏捷和容易地构建、交付和管理微服务平台。

Spring

Spring框架（Spring Framework）是由Rod Johnson于2002年提出的开源Java企业级应用框架，旨在通过使用JavaBean替代传统EJB实现方式降低企业级编程开发的复杂性。该框架基于简单性、可测试性和松耦合性设计理念，提供核心容器、应用上下文、数据访问集成等模块，支持整合Hibernate、Struts等第三方框架，其适用范围不仅限于服务器端开发，绝大多数Java应用均可从中受益。