首页 文章 精选 留言 我的
优秀的个人博客,低调大师

微信关注我们

原文链接:https://yq.aliyun.com/articles/168700

转载内容版权归作者及来源网站所有!

低调大师中文资讯倾力打造互联网数据资讯、行业资源、电子商务、移动互联网、网络营销平台。持续更新报道IT业界、互联网、市场资讯、驱动更新,是最及时权威的产业资讯及硬件资讯报道平台。

《Spark与Hadoop大数据分析》一一3.5 持久化与缓存

本节书摘来自华章计算机《Spark与Hadoop大数据分析》一书中的第3章,第3.5节,作者:文卡特·安卡姆(Venkat Ankam) 更多章节内容可以访问云栖社区“华章计算机”公众号查看。 3.5 持久化与缓存 Spark 的一个独特功能是在内存中持久化 RDD。你可以使用 persist 或 cache 变换来持久化 RDD,如下所示: 上述两个语句都是相同的,并且会在 MEMORY_ONLY 存储级别缓存数据。它们的区别在于:cache 是指 MEMORY_ONLY 存储级别,而 persist 可以根据需要选择不同的存储级别,如下表所示。当第一次使用动作来进行计算时,它将保存在节点上的内存中。了解缓存 RDD 的百分比及其大小的最简单方法是检查管理界面中的 Storage 选项卡,如图3-11 所示: 图3-11 缓存的 RDD

大数据的小算盘

这两年大数据市场发展得红红火火,业界普遍看好其应用前景。精英们,专家们每每提及大数据,必然带上数据经济、物联网,人工智能等一长串金光闪耀的名词作为注脚,常把我这种小从业者侃的热血沸腾,大有“世界是我们的,就是我们的,最终还是我们的”的感觉。不过热血总是会平复的,冷静下来想想,能够在大数据浪潮中兴风作浪的只是少数有资源、有技术、有市场的巨头们,对于面临生存发展压力的众多小从业者来说,多美好的未来都太遥远,与其垂涎行业巨头们的大布局,不如静下心打打自己的小算盘。 跟随行业的脚步,向前迈进 大数据市场的快速发展会创造很多的市场机会,但也带来巨大的风险。大企业,乃至行业巨头都难保自己不会衰落,更何况对市场风险抵御能力更弱的小从业者。认清并跟随行业发展大趋势,无疑能够大大提升小从业者们的生存和发展能力。 随着在各行业中不断应用,大数据技术得到广泛的认可,进入了理性发展阶段。16年以来,各种社会组织对大数据的态度发生了改变,从一种潜力巨大的新技术变为帮助自己适应互联网时代的强力工具,大数据市场相应的出现了新动向: 业务需要驱动大数据建设。随着对大数据了解的不断加深,市场关注点变为大数据的实际应用价...

相关文章

发表评论

资源下载

更多资源
优质分享App

优质分享App

近一个月的开发和优化,本站点的第一个app全新上线。该app采用极致压缩,本体才4.36MB。系统里面做了大量数据访问、缓存优化。方便用户在手机上查看文章。后续会推出HarmonyOS的适配版本。

腾讯云软件源

腾讯云软件源

为解决软件依赖安装时官方源访问速度慢的问题,腾讯云为一些软件搭建了缓存服务。您可以通过使用腾讯云软件源站来提升依赖包的安装速度。为了方便用户自由搭建服务架构,目前腾讯云软件源站支持公网访问和内网访问。

Spring

Spring

Spring框架(Spring Framework)是由Rod Johnson于2002年提出的开源Java企业级应用框架,旨在通过使用JavaBean替代传统EJB实现方式降低企业级编程开发的复杂性。该框架基于简单性、可测试性和松耦合性设计理念,提供核心容器、应用上下文、数据访问集成等模块,支持整合Hibernate、Struts等第三方框架,其适用范围不仅限于服务器端开发,绝大多数Java应用均可从中受益。

Rocky Linux

Rocky Linux

Rocky Linux(中文名:洛基)是由Gregory Kurtzer于2020年12月发起的企业级Linux发行版,作为CentOS稳定版停止维护后与RHEL(Red Hat Enterprise Linux)完全兼容的开源替代方案,由社区拥有并管理,支持x86_64、aarch64等架构。其通过重新编译RHEL源代码提供长期稳定性,采用模块化包装和SELinux安全架构,默认包含GNOME桌面环境及XFS文件系统,支持十年生命周期更新。

用户登录
用户注册