《深入理解Spark:核心思想与源码分析》—

《深入理解Spark:核心思想与源码分析》——3.4节SparkUI详解

2017-05-01 539

本节书摘来自华章社区《深入理解Spark:核心思想与源码分析》一书中的第3章，第3.4节SparkUI详解，作者耿嘉安，更多章节内容可以访问云栖社区“华章社区”公众号查看

3.4　SparkUI详解
任何系统都需要提供监控功能，用浏览器能访问具有样式及布局并提供丰富监控数据的页面无疑是一种简单、高效的方式。SparkUI就是这样的服务，它的架构如图3-1所示。
在大型分布式系统中，采用事件监听机制是最常见的。为什么要使用事件监听机制？假如SparkUI采用Scala的函数调用方式，那么随着整个集群规模的增加，对函数的调用会越来越多，最终会受到Driver所在JVM的线程数量限制而影响监控数据的更新，甚至出现监控数据无法及时显示给用户的情况。由于函数调用多数情况下是同步调用，这就导致线程被阻塞，在分布式环境中，还可能因为网络问题，导致线程

微信关注我们

原文链接：https://yq.aliyun.com/articles/107795

转载内容版权归作者及来源网站所有！

低调大师中文资讯倾力打造互联网数据资讯、行业资源、电子商务、移动互联网、网络营销平台。持续更新报道IT业界、互联网、市场资讯、驱动更新,是最及时权威的产业资讯及硬件资讯报道平台。

《Hadoop大数据分析与挖掘实战》——3.4节小结

本节书摘来自华章社区《Hadoop大数据分析与挖掘实战》一书中的第3章，第3.4节小结，作者张良均　樊哲　赵云龙　李成华　，更多章节内容可以访问云栖社区“华章社区”公众号查看 3.4　小结本章先介绍大数据仓库Hive的基础概念，接着，详细介绍了使用VMware虚拟机搭建分布式Hive客户端环境的步骤，使读者可以根据搭建步骤一步步搭建自己的本地学习环境，方便后面的学习实验。然后，分析了Hive的原理，主要包括Hive的架构，Hive各个组件的功能以及Hive数据模型、数据存储原理等。最后，给出了详细设计的实验，使读者动手实践，加深对原理的认识和理解。

2017-05-02

590

本节书摘来异步社区《Spark Cookbook 中文版》一书中的第1章，第1.7节，作者：【印度】Rishi Yadav（亚达夫）译者：顾星竹 , 刘见康责编：胡俊英，更多章节内容可以访问云栖社区“异步社区”公众号查看。 1.7　在集群上使用YARN部署另一种资源协调者（YARN）是基于HDFS这个Hadoop存储层的Hadoop计算框架。 YARN遵循主从架构。主守护进程被称为资源管理器（ResourceManager），从守护进程被称为节点管理器（NodeManager）。除此之外，生命周期管理由ApplicationMaster负责，它可以被派生到任何从节点上并可以生存一个应用的生命周期时长。如果Spark运行在YARN上的话，资源管理器充当Spark master，节点管理器充当执行节点。如果Spark运行在YARN上的话，每个Spark执行程序以YARN容器（container）的形式运行。 1.7.1　准备工作在YARN上部署Spark需要一个拥有YARN支持的Spark二进制安装包。在按照Spark安装教程时，需要注意这一点。 1.7.2　具体步骤 1．...

2017-05-02

446

资源下载

更多资源

优质分享App

近一个月的开发和优化，本站点的第一个app全新上线。该app采用极致压缩，本体才4.36MB。系统里面做了大量数据访问、缓存优化。方便用户在手机上查看文章。后续会推出HarmonyOS的适配版本。

腾讯云软件源

为解决软件依赖安装时官方源访问速度慢的问题，腾讯云为一些软件搭建了缓存服务。您可以通过使用腾讯云软件源站来提升依赖包的安装速度。为了方便用户自由搭建服务架构，目前腾讯云软件源站支持公网访问和内网访问。

Nacos

Nacos /nɑ:kəʊs/ 是 Dynamic Naming and Configuration Service 的首字母简称，一个易于构建 AI Agent 应用的动态服务发现、配置管理和AI智能体管理平台。Nacos 致力于帮助您发现、配置和管理微服务及AI智能体应用。Nacos 提供了一组简单易用的特性集，帮助您快速实现动态服务发现、服务配置、服务元数据、流量管理。Nacos 帮助您更敏捷和容易地构建、交付和管理微服务平台。

Spring

Spring框架（Spring Framework）是由Rod Johnson于2002年提出的开源Java企业级应用框架，旨在通过使用JavaBean替代传统EJB实现方式降低企业级编程开发的复杂性。该框架基于简单性、可测试性和松耦合性设计理念，提供核心容器、应用上下文、数据访问集成等模块，支持整合Hibernate、Struts等第三方框架，其适用范围不仅限于服务器端开发，绝大多数Java应用均可从中受益。