E-MapReduce上如何采集Kafka客户端Metrics
1. 背景
我们知道Kafka提供一套非常完善的Metrics数据,覆盖Broker,Consumer,Producer,Stream以及Connect。E-MapReduce通过Ganglia收集了Kafka Broker metrics信息,可以很好地监控Broker运行状态。但完整的Kafka应用包括Kafka Broker和Kafka 客户端这两个角色,当发生读写性能问题时,常常从Broker角度难以发现问题,需要结合客户端的运行状况来联合分析才行。那么Kafka客户端metrics就是一类非常重要的数据。E-MapReduce是如何进行Kafka客户端metrics采集的呢?
(欢迎关注E-MapReduce开源项目:https://github.com/aliyun/aliyun-emapreduce-sdk)
2. 实现
2
低调大师中文资讯倾力打造互联网数据资讯、行业资源、电子商务、移动互联网、网络营销平台。
持续更新报道IT业界、互联网、市场资讯、驱动更新,是最及时权威的产业资讯及硬件资讯报道平台。
转载内容版权归作者及来源网站所有,本站原创内容转载请注明来源。
- 上一篇
阿里云Elasticsearch 三大IP设置
前言 目前很多用户在阿里云es设置白名单都会比较迷糊,或者没有详细阅读官方文档设置错误,这里给大家梳理一下三大ip设置操作:ip白名单/ip黑名单,Kibana访问白名单,公网地址访问白名单 ip白名单/ip黑名单: 具体参考官网文档:https://help.aliyun.com/document_detail/67848.html?spm=a2c4g.11186623.6.554.FRJsh8 这里要说明如下两点内容: 阿里云ES实例提供了商业版的 X-pack 插件,在使用阿里云ES实例内网地址访问相应Node时,增加了进一步的安全控制,用户可以通过配置IP黑/白名单的方式来控制对阿里云ES实例访问。注意:主要针对内网地址(VPC)访问控制。通过内网地址来访问阿里云ES实例,如果一个节点的IP地址在IP黑名单上,X-Pack的安全性仍然允许该节点被链接,但请求将被直接抛弃不会被处理。 -------重点字样:内网地址,没错这个是用于内网地址ip控制的。 优先级允许规则优先于拒绝规则。 -------如果想只允许少数ip访问,那么就需要黑白名单搭配使用,黑名单_all 设置,然后白...
- 下一篇
一种堆外内存缓存策略加速数据写OSS
1. 背景介绍 EMR集群中作业写数据到OSS时,需要先将数据缓存在本地,然后再一次性上传到OSS中。EMR支持两种缓存策略: disk off-heap 两种缓存测试使用场景略有区别: 本地磁盘缓存策略适用到任何场景,且能满足较大文件上传需求。 堆外内存缓存策略在性能上较磁盘缓存有优势,但是受限于内存资源。在实现上,堆外内存的申请会限制在一定范围内,当数据产生速率超过数据上传速率时,输出流会block住,需要等待进行中的上传任务完成。 潜在问题: 作业提交到Yarn:当使用堆外内存策略时,存在内存超用被Yarn杀掉的风险。所以在内存参数设置上需要格外小心,不然会影响到作业的稳定性。 2. 如何使用 作业参数中配置"fs.oss.upload.bufferType",可选值为"disk"或者"off-heap"。以下举例: 1. hadoop fs -
相关文章
文章评论
共有0条评论来说两句吧...
文章二维码
点击排行
推荐阅读
最新文章
- CentOS7编译安装Cmake3.16.3,解决mysql等软件编译问题
- Docker安装Oracle12C,快速搭建Oracle学习环境
- CentOS8安装Docker,最新的服务器搭配容器使用
- CentOS7设置SWAP分区,小内存服务器的救世主
- SpringBoot2全家桶,快速入门学习开发网站教程
- CentOS6,7,8上安装Nginx,支持https2.0的开启
- Docker使用Oracle官方镜像安装(12C,18C,19C)
- CentOS关闭SELinux安全模块
- CentOS7编译安装Gcc9.2.0,解决mysql等软件编译问题
- CentOS8编译安装MySQL8.0.19