storm集群的监控-低调大师

storm集群的监控

2017-05-01 593

所谓兵马未动，粮草先行，准备将storm用在某个项目中做实时数据分析。无论任何系统，一定要有监控系统并存，当故障发生的时候你能第一个知道，而不是让别人告诉你，那处理故障就很被动了。

    因此我写了这么个项目，取名叫storm-monitor，放在了github上

     https://github.com/killme2008/storm-monitor

    主要功能如下：
1.监控supervisor数目是否正确，当supervisor挂掉的时候会发送警告。
2.监控nimbus是否正常运行，monitor会尝试连接nimbus，如果连接失败就认为nimbus挂掉。
3.监控topology是否正常运行，包括它是否正常部署，是否有运行中的任务。

    当故障发生的时候通过alarm方法警告用户，开放出去的只是简单地打日志。因为每个公司的告警接口不一样，所以你需要自己扩展，修改alarm.clj即可。我们这儿就支持旺旺告警和手机短信告警。

    基本的原理很简单，对supervisor和topology的监控是通过zookeeper来间接地监控，通过定期查看path是否存在。对nimbus的监控是每次起一个短连接连上去，连不上去即认为挂掉。

整个项目也是用clojure写。你的机器需要安装lein和exec插件，然后将你的storm.yaml拷贝到conf目录下，编辑monitor.yaml设定监控参数如检查间隔等，最后启动start.sh脚本即可。默认日志输出在logs/monitor.log。

本文来源于"阿里中间件团队播客",原文发表时间" 2011-12-02"

微信关注我们

原文链接：https://yq.aliyun.com/articles/85328

转载内容版权归作者及来源网站所有！

低调大师中文资讯倾力打造互联网数据资讯、行业资源、电子商务、移动互联网、网络营销平台。持续更新报道IT业界、互联网、市场资讯、驱动更新,是最及时权威的产业资讯及硬件资讯报道平台。

《大数据系统构建：可扩展实时数据系统构建原理与最佳实践》一第一部分批处理层

本节书摘来自华章出版社《大数据系统构建：可扩展实时数据系统构建原理与最佳实践》一书中的第一部分，南森·马茨（Nathan Marz） [美]　詹姆斯·沃伦（JamesWarren）　著马延辉　向　磊　魏东琦　译，更多章节内容可以访问云栖社区“华章计算机”公众号查看。第一部分批处理层第一部分主要介绍Lambda架构的批处理层。这部分的章节结合示例讲述相关理论。第2章探讨了如何对主数据集中的数据进行建模和视图化。第3章使用Apache Thrift工具来阐述第2章涉及的概念。第4章探讨了主数据集的存储要求。你会发现数据库解决方案提供的许多典型特性不适用于主数据集，而且实际上阻碍了主数据存储的优化。一个更简单、更精致的全能型存储解决方案可以更好地满足需求。第5章使用Hadoop的分布式文件系统来阐述主数据集的物理存储。第6章

2017-05-02

570

有这样一个传说，将人工智能和机器学习算法用于服务器农场后，你就可以搬家到夏威夷，在让机器交易的同时你终日躺在沙滩上享受生活。但是，问题在于交易市场是不断变化的：经济力量，新产品，竞争，世界事件，法规，甚至推特都是因素。虽然没有免费的午餐，在开放源码机器学习算法和数据分析平台的帮助下，公司仍然可以得到一个“更好，更健康，更便宜的午餐”。在股票市场中，查看历史股票价格并尝试用不同的模型来预测未来是一种常见的做法。虽然这篇文章不能提供股票分析的细节，但它提出了一种用于解决大规模实时数据分析问题的方法，在一个可高度扩展和延伸性的参考架构下使用开放源代码工具。下面的架构专注于金融交易，但也适用于几乎任何一个行业的实时使用需求。关于这篇文章所讨论的构架的更多信息也可在网上通过Linux基金会，SlideShare，YouTube，和Pivot

2017-05-02

631

资源下载

更多资源

Mario

马里奥是站在游戏界顶峰的超人气多面角色。马里奥靠吃蘑菇成长，特征是大鼻子、头戴帽子、身穿背带裤，还留着胡子。与他的双胞胎兄弟路易基一起，长年担任任天堂的招牌角色。

腾讯云软件源

为解决软件依赖安装时官方源访问速度慢的问题，腾讯云为一些软件搭建了缓存服务。您可以通过使用腾讯云软件源站来提升依赖包的安装速度。为了方便用户自由搭建服务架构，目前腾讯云软件源站支持公网访问和内网访问。

Spring

Spring框架（Spring Framework）是由Rod Johnson于2002年提出的开源Java企业级应用框架，旨在通过使用JavaBean替代传统EJB实现方式降低企业级编程开发的复杂性。该框架基于简单性、可测试性和松耦合性设计理念，提供核心容器、应用上下文、数据访问集成等模块，支持整合Hibernate、Struts等第三方框架，其适用范围不仅限于服务器端开发，绝大多数Java应用均可从中受益。

Rocky Linux

Rocky Linux（中文名：洛基）是由Gregory Kurtzer于2020年12月发起的企业级Linux发行版，作为CentOS稳定版停止维护后与RHEL（Red Hat Enterprise Linux）完全兼容的开源替代方案，由社区拥有并管理，支持x86_64、aarch64等架构。其通过重新编译RHEL源代码提供长期稳定性，采用模块化包装和SELinux安全架构，默认包含GNOME桌面环境及XFS文件系统，支持十年生命周期更新。