首页 文章 精选 留言 我的
优秀的个人博客,低调大师

微信关注我们

原文链接:https://yq.aliyun.com/articles/168700

转载内容版权归作者及来源网站所有!

低调大师中文资讯倾力打造互联网数据资讯、行业资源、电子商务、移动互联网、网络营销平台。持续更新报道IT业界、互联网、市场资讯、驱动更新,是最及时权威的产业资讯及硬件资讯报道平台。

《Spark与Hadoop大数据分析》一一3.5 持久化与缓存

本节书摘来自华章计算机《Spark与Hadoop大数据分析》一书中的第3章,第3.5节,作者:文卡特·安卡姆(Venkat Ankam) 更多章节内容可以访问云栖社区“华章计算机”公众号查看。 3.5 持久化与缓存 Spark 的一个独特功能是在内存中持久化 RDD。你可以使用 persist 或 cache 变换来持久化 RDD,如下所示: 上述两个语句都是相同的,并且会在 MEMORY_ONLY 存储级别缓存数据。它们的区别在于:cache 是指 MEMORY_ONLY 存储级别,而 persist 可以根据需要选择不同的存储级别,如下表所示。当第一次使用动作来进行计算时,它将保存在节点上的内存中。了解缓存 RDD 的百分比及其大小的最简单方法是检查管理界面中的 Storage 选项卡,如图3-11 所示: 图3-11 缓存的 RDD

大数据的小算盘

这两年大数据市场发展得红红火火,业界普遍看好其应用前景。精英们,专家们每每提及大数据,必然带上数据经济、物联网,人工智能等一长串金光闪耀的名词作为注脚,常把我这种小从业者侃的热血沸腾,大有“世界是我们的,就是我们的,最终还是我们的”的感觉。不过热血总是会平复的,冷静下来想想,能够在大数据浪潮中兴风作浪的只是少数有资源、有技术、有市场的巨头们,对于面临生存发展压力的众多小从业者来说,多美好的未来都太遥远,与其垂涎行业巨头们的大布局,不如静下心打打自己的小算盘。 跟随行业的脚步,向前迈进 大数据市场的快速发展会创造很多的市场机会,但也带来巨大的风险。大企业,乃至行业巨头都难保自己不会衰落,更何况对市场风险抵御能力更弱的小从业者。认清并跟随行业发展大趋势,无疑能够大大提升小从业者们的生存和发展能力。 随着在各行业中不断应用,大数据技术得到广泛的认可,进入了理性发展阶段。16年以来,各种社会组织对大数据的态度发生了改变,从一种潜力巨大的新技术变为帮助自己适应互联网时代的强力工具,大数据市场相应的出现了新动向: 业务需要驱动大数据建设。随着对大数据了解的不断加深,市场关注点变为大数据的实际应用价...

相关文章

发表评论

资源下载

更多资源
腾讯云软件源

腾讯云软件源

为解决软件依赖安装时官方源访问速度慢的问题,腾讯云为一些软件搭建了缓存服务。您可以通过使用腾讯云软件源站来提升依赖包的安装速度。为了方便用户自由搭建服务架构,目前腾讯云软件源站支持公网访问和内网访问。

Nacos

Nacos

Nacos /nɑ:kəʊs/ 是 Dynamic Naming and Configuration Service 的首字母简称,一个易于构建 AI Agent 应用的动态服务发现、配置管理和AI智能体管理平台。Nacos 致力于帮助您发现、配置和管理微服务及AI智能体应用。Nacos 提供了一组简单易用的特性集,帮助您快速实现动态服务发现、服务配置、服务元数据、流量管理。Nacos 帮助您更敏捷和容易地构建、交付和管理微服务平台。

Spring

Spring

Spring框架(Spring Framework)是由Rod Johnson于2002年提出的开源Java企业级应用框架,旨在通过使用JavaBean替代传统EJB实现方式降低企业级编程开发的复杂性。该框架基于简单性、可测试性和松耦合性设计理念,提供核心容器、应用上下文、数据访问集成等模块,支持整合Hibernate、Struts等第三方框架,其适用范围不仅限于服务器端开发,绝大多数Java应用均可从中受益。

Sublime Text

Sublime Text

Sublime Text具有漂亮的用户界面和强大的功能,例如代码缩略图,Python的插件,代码段等。还可自定义键绑定,菜单和工具栏。Sublime Text 的主要功能包括:拼写检查,书签,完整的 Python API , Goto 功能,即时项目切换,多选择,多窗口等等。Sublime Text 是一个跨平台的编辑器,同时支持Windows、Linux、Mac OS X等操作系统。