Spark RDD概念学习系列之细谈RDD的弹性（十六）-低调大师

Spark RDD概念学习系列之细谈RDD的弹性（十六）

2017-11-20 564

　细谈RDD的弹性

　　所谓，弹性，是指在内存不够时可以与磁盘进行交换。

　　　弹性之一：自动的进行内存和磁盘数据存储的切换

　　弹性之二：基于Lineage（血缘）的高效容错

　　弹性之三：Task如果失败会自动进行特定次数的重试

　　　弹性之四：Stage如果失败会自动进行特定次数的重试，而且只会计算失败的分片

　　　弹性之五：checkpoint和persist

　　　　　　Checkpoint是比较重量级的操作，RDD操作，一般每次都会产生新的RDD，除了最后一个action操作触发作业以外。但是有时候，链条比较长或者计算比较笨重，考虑把数据放到磁盘上，这就是Checkpoint。

　　　　 Persist是在内存或磁盘里复用。

　　弹性之六：数据调度弹性:DAG、Task和资源管理无关

　　弹性之七：数据分片的高度弹性

本文转自大数据躺过的坑博客园博客，原文链接：http://www.cnblogs.com/zlslch/p/5887484.html，如需转载请自行联系原作者

微信关注我们

原文链接：https://yq.aliyun.com/articles/371026

转载内容版权归作者及来源网站所有！

低调大师中文资讯倾力打造互联网数据资讯、行业资源、电子商务、移动互联网、网络营销平台。持续更新报道IT业界、互联网、市场资讯、驱动更新,是最及时权威的产业资讯及硬件资讯报道平台。

setting.xml配置文件

在此，简单的说下。　setting.xml 和 pom.xml这两各配置文件，到此是怎样？ setting.xml setting.xml，这个配文件，是全局的。比如你的是构建，web项目。我的是Hadoop和spark项目。那么。setting这个文件，你我都可以是一样的。因为它是全局的配置，相当于里面只要写入阿狸开源私服，达内私服，开源中国私服等。就是一个中央仓库网址的作用！比如， http://maven.aliyun.com/nexus/content/repositories/central 再比如， http://central.maven.org/maven2 等等。所以，这个setting.xml，对于不同场景的项目，是一样的。它只是个私服而已。 pom.xml 然后，pom.xml文件是各自项目所需的配置文件。是各自具体项目的。不同项目。里面写法不一样哟。里面写的是自己项目所需要下载哪些jar包，以及id,groupid,artifactid,版本号等。它是个局部配置文件它是个局部配置文件 1、Eclipse里Maven...

2017-11-21

592

Hadoop集群基本部署完成，接下来就需要有一个监控系统，能及时发现性能瓶颈，给故障排除提供有力依据。监控hadoop集群系统好用的比较少，自身感觉ambari比较好用，但不能监控已有的集群环境，挺悲催的。ganglia在网上看到原生支持Hadoop、Hbase性能监控，试用一段时间感觉还不错，监控项比较全面，配置简单，软件包在epel网络源中，使用yum安装方便快捷。 Ganglia是一个开源集群监控系统，主要用来监控系统性能，如：cpu、mem、硬盘利用率、I/O负载、网络流量等。 Ganglia涉及到三个组件： gmetad：定期从gmond获取数据，并将数据存储到RRD存储引擎中。 gmond：被监控端代理程序，用于收集监控信息，并发送给gmetad。 ganglia-web：WEB前端，RRD绘图后通过PHP展示。四、Ganglia集群监控系统部署 1.CentOS7 YUM源自带epel网络源，直接安装（部署到HMaster0上，尽量单独放一台机器上） 1 2 #yuminstallepel-release #yuminstallganglia-webganglia-gm...

2017-11-21

618

资源下载

更多资源

优质分享App

近一个月的开发和优化，本站点的第一个app全新上线。该app采用极致压缩，本体才4.36MB。系统里面做了大量数据访问、缓存优化。方便用户在手机上查看文章。后续会推出HarmonyOS的适配版本。

Mario

马里奥是站在游戏界顶峰的超人气多面角色。马里奥靠吃蘑菇成长，特征是大鼻子、头戴帽子、身穿背带裤，还留着胡子。与他的双胞胎兄弟路易基一起，长年担任任天堂的招牌角色。

Nacos

Nacos /nɑ:kəʊs/ 是 Dynamic Naming and Configuration Service 的首字母简称，一个易于构建 AI Agent 应用的动态服务发现、配置管理和AI智能体管理平台。Nacos 致力于帮助您发现、配置和管理微服务及AI智能体应用。Nacos 提供了一组简单易用的特性集，帮助您快速实现动态服务发现、服务配置、服务元数据、流量管理。Nacos 帮助您更敏捷和容易地构建、交付和管理微服务平台。

Sublime Text

Sublime Text具有漂亮的用户界面和强大的功能，例如代码缩略图，Python的插件，代码段等。还可自定义键绑定，菜单和工具栏。Sublime Text 的主要功能包括：拼写检查，书签，完整的 Python API ， Goto 功能，即时项目切换，多选择，多窗口等等。Sublime Text 是一个跨平台的编辑器，同时支持Windows、Linux、Mac OS X等操作系统。