《深入理解Spark:核心思想与源码分析》——3.9节启动测量系统MetricsSystem-低调大师

《深入理解Spark:核心思想与源码分析》——3.9节启动测量系统MetricsSystem

2017-05-01 585

本节书摘来自华章社区《深入理解Spark:核心思想与源码分析》一书中的第3章，第3.9节启动测量系统MetricsSystem，作者耿嘉安，更多章节内容可以访问云栖社区“华章社区”公众号查看

3.9　启动测量系统MetricsSystem
MetricsSystem使用codahale提供的第三方测量仓库Metrics，有关Metrics的具体信息可以参考附录D。MetricsSystem中有三个概念：
Instance：指定了谁在使用测量系统；
Source：指定了从哪里收集测量数据；
Sink：指定了往哪里输出测量数据。
Spark按照Instance的不同，区分为Master、Worker、Application、Driver和Executor。
Spark目前提供的Sink有ConsoleSink、CsvSink、JmxSink、Met

微信关注我们

原文链接：https://yq.aliyun.com/articles/107833

转载内容版权归作者及来源网站所有！

低调大师中文资讯倾力打造互联网数据资讯、行业资源、电子商务、移动互联网、网络营销平台。持续更新报道IT业界、互联网、市场资讯、驱动更新,是最及时权威的产业资讯及硬件资讯报道平台。

欧洲核子研究组织如何预测新的流行数据集？

◆◆◆ 前言去年夏天，我曾在日内瓦的欧洲核子研究组织（CERN）暑期开放实验室实习。我工作的重点是为CERN的大数据分析来探索Apache Spark的MLlib框架。（备注：Apache Spark在世界最先进的核子研究组织中被认为是有潜力的大数据分析框架）在CERN，一个主要的实验项目是CMS（世界上最大的粒子物理探测器之一），通过它可以帮助我们对亚原子有更好的理解。实验是在CERN的大型强子对撞击（LHC）上进行的。LHC是一个粒子加速器，可以把亚原子粒子推送到极高的速度并通过CMS探测器可视化。CMS探测器是一个巨大的多层数码相机，记录了每秒LHC的粒子碰撞产生的碎片的图像。CMS实验每一年要收集O（10）拍字节的数据。随着时间的推移，每一次碰撞都会带来巨大的数据量。最大数据的生产速率可以达到约600兆/秒，由此带来了一

2017-05-02

590

《深入理解Spark:核心思想与源码分析》——3.10节创建和启动ExecutorAllocationManager

本节书摘来自华章社区《深入理解Spark:核心思想与源码分析》一书中的第3章，第3.10节创建和启动ExecutorAllocationManager，作者耿嘉安，更多章节内容可以访问云栖社区“华章社区”公众号查看 3.10　创建和启动ExecutorAllocationManager ExecutorAllocationManager用于对已分配的Executor进行管理，创建和启动Executor-AllocationManager的代码如下。 private[spark] val executorAllocationManager: Option[ExecutorAllocationManager] = if (conf.getBoolean("spark.dynamicAllocation.enabled", false)) { Some(new ExecutorAllocationManager(this, listenerBus, conf)) } else { None } executorAllocationManager.foreach(_.start()) 默认情况...

2017-05-02

562

资源下载

更多资源

优质分享Android(本站安卓app)

近一个月的开发和优化，本站点的第一个app全新上线。该app采用极致压缩，本体才4.36MB。系统里面做了大量数据访问、缓存优化。方便用户在手机上查看文章。后续会推出HarmonyOS的适配版本。

Oracle Database，又名Oracle RDBMS

Oracle Database，又名Oracle RDBMS，或简称Oracle。是甲骨文公司的一款关系数据库管理系统。它是在数据库领域一直处于领先地位的产品。可以说Oracle数据库系统是目前世界上流行的关系数据库管理系统，系统可移植性好、使用方便、功能强，适用于各类大、中、小、微机环境。它是一种高效率、可靠性好的、适应高吞吐量的数据库方案。

Apache Tomcat7、8、9（Java Web服务器）

Tomcat是Apache 软件基金会（Apache Software Foundation）的Jakarta 项目中的一个核心项目，由Apache、Sun 和其他一些公司及个人共同开发而成。因为Tomcat 技术先进、性能稳定，而且免费，因而深受Java 爱好者的喜爱并得到了部分软件开发商的认可，成为目前比较流行的Web 应用服务器。

Eclipse（集成开发环境）

Eclipse 是一个开放源代码的、基于Java的可扩展开发平台。就其本身而言，它只是一个框架和一组服务，用于通过插件组件构建开发环境。幸运的是，Eclipse 附带了一个标准的插件集，包括Java开发工具（Java Development Kit，JDK）。