《Hadoop MapReduce实战手册》一1.10 使用MapReduce监控UI-低调大师

《Hadoop MapReduce实战手册》一1.10 使用MapReduce监控UI

2017-05-01 578

本节书摘来异步社区《Hadoop MapReduce实战手册》一书中的第1章，第1.10节，作者：【美】Srinath Perera , Thilina Gunarathne 译者：杨卓荦责编：杨海玲，更多章节内容可以访问云栖社区“异步社区”公众号查看。

1.10 使用MapReduce监控UI

Hadoop MapReduce实战手册
本节传授如何使用Hadoop的监控Web控制台来验证Hadoop的安装，以及如何监控Hadoop集群的每个部分的分配和使用。

操作步骤
现在让我们来访问Hadoop的监控Web控制台。

使用浏览器访问http://MASTER_NODE:50030/，其中MASTER_NODE是主节点的IP地址。
图1-6所示的网页显示了MapReduce安装的当前状态，包括正在运行和已经完成的作业。

工作原理
Hadoop的监控UI可让用户访问Hadoop配置的JobTracker，并且访问到不同的节点的安装、配置和使用信息。例如，用户可以使用UI看到当前正在运行的作业和与作业相关的日志。

微信关注我们

原文链接：https://yq.aliyun.com/articles/97855

转载内容版权归作者及来源网站所有！

低调大师中文资讯倾力打造互联网数据资讯、行业资源、电子商务、移动互联网、网络营销平台。持续更新报道IT业界、互联网、市场资讯、驱动更新,是最及时权威的产业资讯及硬件资讯报道平台。

DevOps：软件架构师行动指南2.5　更多阅读材料

2.5　更多阅读材料美国国家技术与标准研究所的云定义是SP 800-145这个专门出版物的一部分[NIST 11]。针对不同类型的内存以及网络连接的延迟数据源自http://www.eecs.berkeley.edu/~rcs/research/interactive_latency.html。 Jeff Dean的主题发言列出了新数据中心的问题[Dean]。 James Hamilton（来自AWS）在他的报告中给我们展示了大规模发生的故障，报告获取链接如下：http://www.slideshare.net/AmazonWebServices/cpn208-failuresatscale-aws-reinvent-2012。可以在http://memcached.org/访问Memcached系统的网站。 Hadoop分布式文件系统

2017-05-02

587

首先kafka的throughput 很牛逼，参考：http://engineering.linkedin.com/kafka/benchmarking-apache-kafka-2-million-writes-second-three-cheap-machines 接着主要谈一下，Kafka的可靠性问题，有哪些机会可能丢数据？从producer，broker，consumer的角度，分别看看 a. Producer到broker 把request.required.acks设为1，丢会重发，丢的概率很小 b. Broker b.1 对于broker，落盘的数据，除非磁盘坏了，不会丢的 b.2 对于内存中没有flush的数据，broker重启会丢可以通过log.flush.interval.messages和log.flush.interval.ms来配置flush间隔，interval大丢的数据多些，小会影响性能但在0.8版本，可以通过replica机制保证数据不丢，代价就是需要更多资源，尤其是磁盘资源，kafka当前支持GZip和Snappy压缩，来缓解这个问题...

2017-05-02

552

资源下载

更多资源

优质分享App

近一个月的开发和优化，本站点的第一个app全新上线。该app采用极致压缩，本体才4.36MB。系统里面做了大量数据访问、缓存优化。方便用户在手机上查看文章。后续会推出HarmonyOS的适配版本。

腾讯云软件源

为解决软件依赖安装时官方源访问速度慢的问题，腾讯云为一些软件搭建了缓存服务。您可以通过使用腾讯云软件源站来提升依赖包的安装速度。为了方便用户自由搭建服务架构，目前腾讯云软件源站支持公网访问和内网访问。

Rocky Linux

Rocky Linux（中文名：洛基）是由Gregory Kurtzer于2020年12月发起的企业级Linux发行版，作为CentOS稳定版停止维护后与RHEL（Red Hat Enterprise Linux）完全兼容的开源替代方案，由社区拥有并管理，支持x86_64、aarch64等架构。其通过重新编译RHEL源代码提供长期稳定性，采用模块化包装和SELinux安全架构，默认包含GNOME桌面环境及XFS文件系统，支持十年生命周期更新。

Sublime Text

Sublime Text具有漂亮的用户界面和强大的功能，例如代码缩略图，Python的插件，代码段等。还可自定义键绑定，菜单和工具栏。Sublime Text 的主要功能包括：拼写检查，书签，完整的 Python API ， Goto 功能，即时项目切换，多选择，多窗口等等。Sublime Text 是一个跨平台的编辑器，同时支持Windows、Linux、Mac OS X等操作系统。