首页 文章 精选 留言 我的
优秀的个人博客,低调大师

微信关注我们

原文链接:https://yq.aliyun.com/articles/168700

转载内容版权归作者及来源网站所有!

低调大师中文资讯倾力打造互联网数据资讯、行业资源、电子商务、移动互联网、网络营销平台。持续更新报道IT业界、互联网、市场资讯、驱动更新,是最及时权威的产业资讯及硬件资讯报道平台。

《Spark与Hadoop大数据分析》一一3.5 持久化与缓存

本节书摘来自华章计算机《Spark与Hadoop大数据分析》一书中的第3章,第3.5节,作者:文卡特·安卡姆(Venkat Ankam) 更多章节内容可以访问云栖社区“华章计算机”公众号查看。 3.5 持久化与缓存 Spark 的一个独特功能是在内存中持久化 RDD。你可以使用 persist 或 cache 变换来持久化 RDD,如下所示: 上述两个语句都是相同的,并且会在 MEMORY_ONLY 存储级别缓存数据。它们的区别在于:cache 是指 MEMORY_ONLY 存储级别,而 persist 可以根据需要选择不同的存储级别,如下表所示。当第一次使用动作来进行计算时,它将保存在节点上的内存中。了解缓存 RDD 的百分比及其大小的最简单方法是检查管理界面中的 Storage 选项卡,如图3-11 所示: 图3-11 缓存的 RDD

大数据的小算盘

这两年大数据市场发展得红红火火,业界普遍看好其应用前景。精英们,专家们每每提及大数据,必然带上数据经济、物联网,人工智能等一长串金光闪耀的名词作为注脚,常把我这种小从业者侃的热血沸腾,大有“世界是我们的,就是我们的,最终还是我们的”的感觉。不过热血总是会平复的,冷静下来想想,能够在大数据浪潮中兴风作浪的只是少数有资源、有技术、有市场的巨头们,对于面临生存发展压力的众多小从业者来说,多美好的未来都太遥远,与其垂涎行业巨头们的大布局,不如静下心打打自己的小算盘。 跟随行业的脚步,向前迈进 大数据市场的快速发展会创造很多的市场机会,但也带来巨大的风险。大企业,乃至行业巨头都难保自己不会衰落,更何况对市场风险抵御能力更弱的小从业者。认清并跟随行业发展大趋势,无疑能够大大提升小从业者们的生存和发展能力。 随着在各行业中不断应用,大数据技术得到广泛的认可,进入了理性发展阶段。16年以来,各种社会组织对大数据的态度发生了改变,从一种潜力巨大的新技术变为帮助自己适应互联网时代的强力工具,大数据市场相应的出现了新动向: 业务需要驱动大数据建设。随着对大数据了解的不断加深,市场关注点变为大数据的实际应用价...

相关文章

发表评论

资源下载

更多资源
Mario

Mario

马里奥是站在游戏界顶峰的超人气多面角色。马里奥靠吃蘑菇成长,特征是大鼻子、头戴帽子、身穿背带裤,还留着胡子。与他的双胞胎兄弟路易基一起,长年担任任天堂的招牌角色。

Nacos

Nacos

Nacos /nɑ:kəʊs/ 是 Dynamic Naming and Configuration Service 的首字母简称,一个易于构建 AI Agent 应用的动态服务发现、配置管理和AI智能体管理平台。Nacos 致力于帮助您发现、配置和管理微服务及AI智能体应用。Nacos 提供了一组简单易用的特性集,帮助您快速实现动态服务发现、服务配置、服务元数据、流量管理。Nacos 帮助您更敏捷和容易地构建、交付和管理微服务平台。

Rocky Linux

Rocky Linux

Rocky Linux(中文名:洛基)是由Gregory Kurtzer于2020年12月发起的企业级Linux发行版,作为CentOS稳定版停止维护后与RHEL(Red Hat Enterprise Linux)完全兼容的开源替代方案,由社区拥有并管理,支持x86_64、aarch64等架构。其通过重新编译RHEL源代码提供长期稳定性,采用模块化包装和SELinux安全架构,默认包含GNOME桌面环境及XFS文件系统,支持十年生命周期更新。

Sublime Text

Sublime Text

Sublime Text具有漂亮的用户界面和强大的功能,例如代码缩略图,Python的插件,代码段等。还可自定义键绑定,菜单和工具栏。Sublime Text 的主要功能包括:拼写检查,书签,完整的 Python API , Goto 功能,即时项目切换,多选择,多窗口等等。Sublime Text 是一个跨平台的编辑器,同时支持Windows、Linux、Mac OS X等操作系统。

用户登录
用户注册