《Hadoop MapReduce实战手册》一1.10 使用MapReduce监控UI-低调大师

《Hadoop MapReduce实战手册》一1.10 使用MapReduce监控UI

2017-05-01 616

本节书摘来异步社区《Hadoop MapReduce实战手册》一书中的第1章，第1.10节，作者：【美】Srinath Perera , Thilina Gunarathne 译者：杨卓荦责编：杨海玲，更多章节内容可以访问云栖社区“异步社区”公众号查看。

1.10 使用MapReduce监控UI

Hadoop MapReduce实战手册
本节传授如何使用Hadoop的监控Web控制台来验证Hadoop的安装，以及如何监控Hadoop集群的每个部分的分配和使用。

操作步骤
现在让我们来访问Hadoop的监控Web控制台。

使用浏览器访问http://MASTER_NODE:50030/，其中MASTER_NODE是主节点的IP地址。
图1-6所示的网页显示了MapReduce安装的当前状态，包括正在运行和已经完成的作业。

工作原理
Hadoop的监控UI可让用户访问Hadoop配置的JobTracker，并且访问到不同的节点的安装、配置和使用信息。例如，用户可以使用UI看到当前正在运行的作业和与作业相关的日志。

微信关注我们

原文链接：https://yq.aliyun.com/articles/97855

转载内容版权归作者及来源网站所有！

低调大师中文资讯倾力打造互联网数据资讯、行业资源、电子商务、移动互联网、网络营销平台。持续更新报道IT业界、互联网、市场资讯、驱动更新,是最及时权威的产业资讯及硬件资讯报道平台。

DevOps：软件架构师行动指南2.5　更多阅读材料

2.5　更多阅读材料美国国家技术与标准研究所的云定义是SP 800-145这个专门出版物的一部分[NIST 11]。针对不同类型的内存以及网络连接的延迟数据源自http://www.eecs.berkeley.edu/~rcs/research/interactive_latency.html。 Jeff Dean的主题发言列出了新数据中心的问题[Dean]。 James Hamilton（来自AWS）在他的报告中给我们展示了大规模发生的故障，报告获取链接如下：http://www.slideshare.net/AmazonWebServices/cpn208-failuresatscale-aws-reinvent-2012。可以在http://memcached.org/访问Memcached系统的网站。 Hadoop分布式文件系统

2017-05-01

615

首先kafka的throughput 很牛逼，参考：http://engineering.linkedin.com/kafka/benchmarking-apache-kafka-2-million-writes-second-three-cheap-machines 接着主要谈一下，Kafka的可靠性问题，有哪些机会可能丢数据？从producer，broker，consumer的角度，分别看看 a. Producer到broker 把request.required.acks设为1，丢会重发，丢的概率很小 b. Broker b.1 对于broker，落盘的数据，除非磁盘坏了，不会丢的 b.2 对于内存中没有flush的数据，broker重启会丢可以通过log.flush.interval.messages和log.flush.interval.ms来配置flush间隔，interval大丢的数据多些，小会影响性能但在0.8版本，可以通过replica机制保证数据不丢，代价就是需要更多资源，尤其是磁盘资源，kafka当前支持GZip和Snappy压缩，来缓解这个问题...

2017-05-01

591

资源下载

更多资源

Mario

马里奥是站在游戏界顶峰的超人气多面角色。马里奥靠吃蘑菇成长，特征是大鼻子、头戴帽子、身穿背带裤，还留着胡子。与他的双胞胎兄弟路易基一起，长年担任任天堂的招牌角色。

Spring

Spring框架（Spring Framework）是由Rod Johnson于2002年提出的开源Java企业级应用框架，旨在通过使用JavaBean替代传统EJB实现方式降低企业级编程开发的复杂性。该框架基于简单性、可测试性和松耦合性设计理念，提供核心容器、应用上下文、数据访问集成等模块，支持整合Hibernate、Struts等第三方框架，其适用范围不仅限于服务器端开发，绝大多数Java应用均可从中受益。

Sublime Text

Sublime Text具有漂亮的用户界面和强大的功能，例如代码缩略图，Python的插件，代码段等。还可自定义键绑定，菜单和工具栏。Sublime Text 的主要功能包括：拼写检查，书签，完整的 Python API ， Goto 功能，即时项目切换，多选择，多窗口等等。Sublime Text 是一个跨平台的编辑器，同时支持Windows、Linux、Mac OS X等操作系统。

WebStorm

WebStorm 是jetbrains公司旗下一款JavaScript 开发工具。目前已经被广大中国JS开发者誉为“Web前端开发神器”、“最强大的HTML5编辑器”、“最智能的JavaScript IDE”等。与IntelliJ IDEA同源，继承了IntelliJ IDEA强大的JS部分的功能。