Spark RDD概念学习系列之细谈RDD的弹性（十六）-低调大师

Spark RDD概念学习系列之细谈RDD的弹性（十六）

2017-11-20 603

　细谈RDD的弹性

　　所谓，弹性，是指在内存不够时可以与磁盘进行交换。

　　　弹性之一：自动的进行内存和磁盘数据存储的切换

　　弹性之二：基于Lineage（血缘）的高效容错

　　弹性之三：Task如果失败会自动进行特定次数的重试

　　　弹性之四：Stage如果失败会自动进行特定次数的重试，而且只会计算失败的分片

　　　弹性之五：checkpoint和persist

　　　　　　Checkpoint是比较重量级的操作，RDD操作，一般每次都会产生新的RDD，除了最后一个action操作触发作业以外。但是有时候，链条比较长或者计算比较笨重，考虑把数据放到磁盘上，这就是Checkpoint。

　　　　 Persist是在内存或磁盘里复用。

　　弹性之六：数据调度弹性:DAG、Task和资源管理无关

　　弹性之七：数据分片的高度弹性

本文转自大数据躺过的坑博客园博客，原文链接：http://www.cnblogs.com/zlslch/p/5887484.html，如需转载请自行联系原作者

微信关注我们

原文链接：https://yq.aliyun.com/articles/371026

转载内容版权归作者及来源网站所有！

低调大师中文资讯倾力打造互联网数据资讯、行业资源、电子商务、移动互联网、网络营销平台。持续更新报道IT业界、互联网、市场资讯、驱动更新,是最及时权威的产业资讯及硬件资讯报道平台。

setting.xml配置文件

在此，简单的说下。　setting.xml 和 pom.xml这两各配置文件，到此是怎样？ setting.xml setting.xml，这个配文件，是全局的。比如你的是构建，web项目。我的是Hadoop和spark项目。那么。setting这个文件，你我都可以是一样的。因为它是全局的配置，相当于里面只要写入阿狸开源私服，达内私服，开源中国私服等。就是一个中央仓库网址的作用！比如， http://maven.aliyun.com/nexus/content/repositories/central 再比如， http://central.maven.org/maven2 等等。所以，这个setting.xml，对于不同场景的项目，是一样的。它只是个私服而已。 pom.xml 然后，pom.xml文件是各自项目所需的配置文件。是各自具体项目的。不同项目。里面写法不一样哟。里面写的是自己项目所需要下载哪些jar包，以及id,groupid,artifactid,版本号等。它是个局部配置文件它是个局部配置文件 1、Eclipse里Maven...

2017-11-20

640

Hadoop集群基本部署完成，接下来就需要有一个监控系统，能及时发现性能瓶颈，给故障排除提供有力依据。监控hadoop集群系统好用的比较少，自身感觉ambari比较好用，但不能监控已有的集群环境，挺悲催的。ganglia在网上看到原生支持Hadoop、Hbase性能监控，试用一段时间感觉还不错，监控项比较全面，配置简单，软件包在epel网络源中，使用yum安装方便快捷。 Ganglia是一个开源集群监控系统，主要用来监控系统性能，如：cpu、mem、硬盘利用率、I/O负载、网络流量等。 Ganglia涉及到三个组件： gmetad：定期从gmond获取数据，并将数据存储到RRD存储引擎中。 gmond：被监控端代理程序，用于收集监控信息，并发送给gmetad。 ganglia-web：WEB前端，RRD绘图后通过PHP展示。四、Ganglia集群监控系统部署 1.CentOS7 YUM源自带epel网络源，直接安装（部署到HMaster0上，尽量单独放一台机器上） 1 2 #yuminstallepel-release #yuminstallganglia-webganglia-gm...

2017-11-20

678

资源下载

更多资源

Nacos

Nacos /nɑ:kəʊs/ 是 Dynamic Naming and Configuration Service 的首字母简称，一个易于构建 AI Agent 应用的动态服务发现、配置管理和AI智能体管理平台。Nacos 致力于帮助您发现、配置和管理微服务及AI智能体应用。Nacos 提供了一组简单易用的特性集，帮助您快速实现动态服务发现、服务配置、服务元数据、流量管理。Nacos 帮助您更敏捷和容易地构建、交付和管理微服务平台。

Spring

Spring框架（Spring Framework）是由Rod Johnson于2002年提出的开源Java企业级应用框架，旨在通过使用JavaBean替代传统EJB实现方式降低企业级编程开发的复杂性。该框架基于简单性、可测试性和松耦合性设计理念，提供核心容器、应用上下文、数据访问集成等模块，支持整合Hibernate、Struts等第三方框架，其适用范围不仅限于服务器端开发，绝大多数Java应用均可从中受益。

Rocky Linux

Rocky Linux（中文名：洛基）是由Gregory Kurtzer于2020年12月发起的企业级Linux发行版，作为CentOS稳定版停止维护后与RHEL（Red Hat Enterprise Linux）完全兼容的开源替代方案，由社区拥有并管理，支持x86_64、aarch64等架构。其通过重新编译RHEL源代码提供长期稳定性，采用模块化包装和SELinux安全架构，默认包含GNOME桌面环境及XFS文件系统，支持十年生命周期更新。

WebStorm

WebStorm 是jetbrains公司旗下一款JavaScript 开发工具。目前已经被广大中国JS开发者誉为“Web前端开发神器”、“最强大的HTML5编辑器”、“最智能的JavaScript IDE”等。与IntelliJ IDEA同源，继承了IntelliJ IDEA强大的JS部分的功能。