E-MapReduce上如何采集Kafka客户端Metrics
1. 背景
我们知道Kafka提供一套非常完善的Metrics数据,覆盖Broker,Consumer,Producer,Stream以及Connect。E-MapReduce通过Ganglia收集了Kafka Broker metrics信息,可以很好地监控Broker运行状态。但完整的Kafka应用包括Kafka Broker和Kafka 客户端这两个角色,当发生读写性能问题时,常常从Broker角度难以发现问题,需要结合客户端的运行状况来联合分析才行。那么Kafka客户端metrics就是一类非常重要的数据。E-MapReduce是如何进行Kafka客户端metrics采集的呢?
(欢迎关注E-MapReduce开源项目:https://github.com/aliyun/aliyun-emapreduce-sdk)
2. 实现
2

低调大师中文资讯倾力打造互联网数据资讯、行业资源、电子商务、移动互联网、网络营销平台。
持续更新报道IT业界、互联网、市场资讯、驱动更新,是最及时权威的产业资讯及硬件资讯报道平台。
转载内容版权归作者及来源网站所有,本站原创内容转载请注明来源。
- 上一篇
阿里云Elasticsearch 三大IP设置
前言 目前很多用户在阿里云es设置白名单都会比较迷糊,或者没有详细阅读官方文档设置错误,这里给大家梳理一下三大ip设置操作:ip白名单/ip黑名单,Kibana访问白名单,公网地址访问白名单 ip白名单/ip黑名单: 具体参考官网文档:https://help.aliyun.com/document_detail/67848.html?spm=a2c4g.11186623.6.554.FRJsh8 这里要说明如下两点内容: 阿里云ES实例提供了商业版的 X-pack 插件,在使用阿里云ES实例内网地址访问相应Node时,增加了进一步的安全控制,用户可以通过配置IP黑/白名单的方式来控制对阿里云ES实例访问。注意:主要针对内网地址(VPC)访问控制。通过内网地址来访问阿里云ES实例,如果一个节点的IP地址在IP黑名单上,X-Pack的安全性仍然允许该节点被链接,但请求将被直接抛弃不会被处理。 -------重点字样:内网地址,没错这个是用于内网地址ip控制的。 优先级允许规则优先于拒绝规则。 -------如果想只允许少数ip访问,那么就需要黑白名单搭配使用,黑名单_all 设置,然后白...
- 下一篇
一种堆外内存缓存策略加速数据写OSS
1. 背景介绍 EMR集群中作业写数据到OSS时,需要先将数据缓存在本地,然后再一次性上传到OSS中。EMR支持两种缓存策略: disk off-heap 两种缓存测试使用场景略有区别: 本地磁盘缓存策略适用到任何场景,且能满足较大文件上传需求。 堆外内存缓存策略在性能上较磁盘缓存有优势,但是受限于内存资源。在实现上,堆外内存的申请会限制在一定范围内,当数据产生速率超过数据上传速率时,输出流会block住,需要等待进行中的上传任务完成。 潜在问题: 作业提交到Yarn:当使用堆外内存策略时,存在内存超用被Yarn杀掉的风险。所以在内存参数设置上需要格外小心,不然会影响到作业的稳定性。 2. 如何使用 作业参数中配置"fs.oss.upload.bufferType",可选值为"disk"或者"off-heap"。以下举例: 1. hadoop fs -
相关文章
文章评论
共有0条评论来说两句吧...
文章二维码
点击排行
推荐阅读
最新文章
- Linux系统CentOS6、CentOS7手动修改IP地址
- CentOS关闭SELinux安全模块
- CentOS8安装Docker,最新的服务器搭配容器使用
- SpringBoot2编写第一个Controller,响应你的http请求并返回结果
- Hadoop3单机部署,实现最简伪集群
- SpringBoot2初体验,简单认识spring boot2并且搭建基础工程
- Eclipse初始化配置,告别卡顿、闪退、编译时间过长
- Springboot2将连接池hikari替换为druid,体验最强大的数据库连接池
- Windows10,CentOS7,CentOS8安装Nodejs环境
- 设置Eclipse缩进为4个空格,增强代码规范