《深入理解Spark:核心思想与源码分析》——3.9节启动测量系统MetricsSystem-低调大师

《深入理解Spark:核心思想与源码分析》——3.9节启动测量系统MetricsSystem

2017-05-01 601

本节书摘来自华章社区《深入理解Spark:核心思想与源码分析》一书中的第3章，第3.9节启动测量系统MetricsSystem，作者耿嘉安，更多章节内容可以访问云栖社区“华章社区”公众号查看

3.9　启动测量系统MetricsSystem
MetricsSystem使用codahale提供的第三方测量仓库Metrics，有关Metrics的具体信息可以参考附录D。MetricsSystem中有三个概念：
Instance：指定了谁在使用测量系统；
Source：指定了从哪里收集测量数据；
Sink：指定了往哪里输出测量数据。
Spark按照Instance的不同，区分为Master、Worker、Application、Driver和Executor。
Spark目前提供的Sink有ConsoleSink、CsvSink、JmxSink、Met

微信关注我们

原文链接：https://yq.aliyun.com/articles/107833

转载内容版权归作者及来源网站所有！

低调大师中文资讯倾力打造互联网数据资讯、行业资源、电子商务、移动互联网、网络营销平台。持续更新报道IT业界、互联网、市场资讯、驱动更新,是最及时权威的产业资讯及硬件资讯报道平台。

欧洲核子研究组织如何预测新的流行数据集？

◆◆◆ 前言去年夏天，我曾在日内瓦的欧洲核子研究组织（CERN）暑期开放实验室实习。我工作的重点是为CERN的大数据分析来探索Apache Spark的MLlib框架。（备注：Apache Spark在世界最先进的核子研究组织中被认为是有潜力的大数据分析框架）在CERN，一个主要的实验项目是CMS（世界上最大的粒子物理探测器之一），通过它可以帮助我们对亚原子有更好的理解。实验是在CERN的大型强子对撞击（LHC）上进行的。LHC是一个粒子加速器，可以把亚原子粒子推送到极高的速度并通过CMS探测器可视化。CMS探测器是一个巨大的多层数码相机，记录了每秒LHC的粒子碰撞产生的碎片的图像。CMS实验每一年要收集O（10）拍字节的数据。随着时间的推移，每一次碰撞都会带来巨大的数据量。最大数据的生产速率可以达到约600兆/秒，由此带来了一

2017-05-02

602

本节书摘来自华章社区《深入理解Spark:核心思想与源码分析》一书中的第3章，第3.10节创建和启动ExecutorAllocationManager，作者耿嘉安，更多章节内容可以访问云栖社区“华章社区”公众号查看 3.10　创建和启动ExecutorAllocationManager ExecutorAllocationManager用于对已分配的Executor进行管理，创建和启动Executor-AllocationManager的代码如下。 private[spark] val executorAllocationManager: Option[ExecutorAllocationManager] = if (conf.getBoolean("spark.dynamicAllocation.enabled", false)) { Some(new ExecutorAllocationManager(this, listenerBus, conf)) } else { None } executorAllocationManager.foreach(_.start()) 默认情况...

2017-05-02

581

资源下载

更多资源

Mario

马里奥是站在游戏界顶峰的超人气多面角色。马里奥靠吃蘑菇成长，特征是大鼻子、头戴帽子、身穿背带裤，还留着胡子。与他的双胞胎兄弟路易基一起，长年担任任天堂的招牌角色。

Nacos

Nacos /nɑ:kəʊs/ 是 Dynamic Naming and Configuration Service 的首字母简称，一个易于构建 AI Agent 应用的动态服务发现、配置管理和AI智能体管理平台。Nacos 致力于帮助您发现、配置和管理微服务及AI智能体应用。Nacos 提供了一组简单易用的特性集，帮助您快速实现动态服务发现、服务配置、服务元数据、流量管理。Nacos 帮助您更敏捷和容易地构建、交付和管理微服务平台。

Spring

Spring框架（Spring Framework）是由Rod Johnson于2002年提出的开源Java企业级应用框架，旨在通过使用JavaBean替代传统EJB实现方式降低企业级编程开发的复杂性。该框架基于简单性、可测试性和松耦合性设计理念，提供核心容器、应用上下文、数据访问集成等模块，支持整合Hibernate、Struts等第三方框架，其适用范围不仅限于服务器端开发，绝大多数Java应用均可从中受益。

Rocky Linux

Rocky Linux（中文名：洛基）是由Gregory Kurtzer于2020年12月发起的企业级Linux发行版，作为CentOS稳定版停止维护后与RHEL（Red Hat Enterprise Linux）完全兼容的开源替代方案，由社区拥有并管理，支持x86_64、aarch64等架构。其通过重新编译RHEL源代码提供长期稳定性，采用模块化包装和SELinux安全架构，默认包含GNOME桌面环境及XFS文件系统，支持十年生命周期更新。