spark过节监控告警系统实现
作者:浪尖
原文链接
本文转载自公众号:Spark学习技巧
马上要过年了,大部分公司这个时候都不会再去谋求开新业务,而大数据工匠们,想要过好年,就要保证过年期间自己对自己的应用了如执掌。一般公司都会有轮值人员,至少要有春节应急预案,尤其是对于我们这些搞平台,或者线上应用的,应急预案更是必不可少。今天浪尖主要是分享一下关于在yarn上的spark 任务我们应该做哪些监控,如何监控。
Spark on yarn这种应用形态目前在企业中是最为常见的,对于这种spark的任务,浪尖觉得大家关心的指标大致有:app存活,spark streaming的job堆积情况,job运行状态及进度,stage运行进度,rdd缓存监控,内存监控等。
其实,春节最为重要的就是app存活了,春节期间各大应用应该都会有一部分数据增量,那么实际上就需要我们的程序能有一定
低调大师中文资讯倾力打造互联网数据资讯、行业资源、电子商务、移动互联网、网络营销平台。
持续更新报道IT业界、互联网、市场资讯、驱动更新,是最及时权威的产业资讯及硬件资讯报道平台。
转载内容版权归作者及来源网站所有,本站原创内容转载请注明来源。
- 上一篇
2019年全球最受欢迎数据库新鲜出炉,你猜中了吗?
全球知名的数据库流行度排行榜网站DB-Engines 宣布,在过去的一年里,MySQL在 DB-Engines排名中比其他350个受监测数据库管理系统的任何一个更受欢迎。 **因此,MySQL为2019年的年度DBMS。** DB-Engines 2019:MySQL 获得“年度数据库”称号 计算结果基于当前最新的分数(2020年1月)和2019年1月的分数差值获得。最终的结果代表了一个产品在2019 年的受欢迎程度。DB-Engines表示之所以采用分数而不是百分比作为评估的维度,是为了照顾在开始时受欢迎程度不太高的系统。 年度DBMS:MySQL 25年前,当 Michael "Monty" Widenius 和其他人开始合作开发供个人使用的MySQL时,最成功的开源项目之一便开始了书写它的历史。作为用于Web开发的LAMP技术栈的原始
- 下一篇
阿里云共享型xn4和突发性能型t5云服务器哪个好?
对于个人站长而言,比较实惠的阿里云服务器有两款,分别是共享型共享型 xn4 和突发性能型 t5 云服务器,配置都是 1 核 CPU/1G 内存/1M 宽带/40G 高效云盘,不过价格上有所区别,所以有站长就比较疑惑:xn4 实例和 t5 突发性能实例哪个好。 xn4和t5的配置及价格对比共享型xn4(2 年):1 核 CPU/1G 内存/1M 宽带/40G 高效云盘,活动价为 516.46 元/2 年,相当于 258.23 元/年;突发性能型t5(3 年):1 核 CPU/1G 内存/1M 宽带/40G 高效云盘,活动价为 538.87 元/3 年,相当于 179.62 元/年。小结:在配置都是 1 核 CPU/1G 内存/1M 宽带/40G 高效云盘的情况下,从价格上讲,突发性能型 t5 服务器更具优势,每年比共享型 xn4 服务器便宜 78.61 元。 xn4和t5的 CPU 性能对比共享型xn4:CPU 性能 100%,也就是说共享型 xn4 云服务器可以长期稳定运转 CPU100%,没有任何性能限制;突发性能型t5:平均基准 CPU 计算性能 10%,也就是说突发性能型 t5 ...
相关文章
文章评论
共有0条评论来说两句吧...
文章二维码
点击排行
推荐阅读
最新文章
- Eclipse初始化配置,告别卡顿、闪退、编译时间过长
- Red5直播服务器,属于Java语言的直播服务器
- Docker使用Oracle官方镜像安装(12C,18C,19C)
- Springboot2将连接池hikari替换为druid,体验最强大的数据库连接池
- Docker安装Oracle12C,快速搭建Oracle学习环境
- CentOS6,CentOS7官方镜像安装Oracle11G
- Jdk安装(Linux,MacOS,Windows),包含三大操作系统的最全安装
- CentOS关闭SELinux安全模块
- CentOS7编译安装Gcc9.2.0,解决mysql等软件编译问题
- Windows10,CentOS7,CentOS8安装MongoDB4.0.16