E-MapReduce上如何采集Kafka客户端Metrics-低调大师

E-MapReduce上如何采集Kafka客户端Metrics

2018-08-08 663

1. 背景

我们知道Kafka提供一套非常完善的Metrics数据，覆盖Broker，Consumer，Producer，Stream以及Connect。E-MapReduce通过Ganglia收集了Kafka Broker metrics信息，可以很好地监控Broker运行状态。但完整的Kafka应用包括Kafka Broker和Kafka 客户端这两个角色，当发生读写性能问题时，常常从Broker角度难以发现问题，需要结合客户端的运行状况来联合分析才行。那么Kafka客户端metrics就是一类非常重要的数据。E-MapReduce是如何进行Kafka客户端metrics采集的呢？

（欢迎关注E-MapReduce开源项目：https://github.com/aliyun/aliyun-emapreduce-sdk）

2. 实现

2

微信关注我们

原文链接：https://yq.aliyun.com/articles/624050

转载内容版权归作者及来源网站所有！

低调大师中文资讯倾力打造互联网数据资讯、行业资源、电子商务、移动互联网、网络营销平台。持续更新报道IT业界、互联网、市场资讯、驱动更新,是最及时权威的产业资讯及硬件资讯报道平台。

阿里云Elasticsearch 三大IP设置

前言目前很多用户在阿里云es设置白名单都会比较迷糊，或者没有详细阅读官方文档设置错误，这里给大家梳理一下三大ip设置操作：ip白名单／ip黑名单，Kibana访问白名单，公网地址访问白名单 ip白名单／ip黑名单：具体参考官网文档：https://help.aliyun.com/document_detail/67848.html?spm=a2c4g.11186623.6.554.FRJsh8 这里要说明如下两点内容：阿里云ES实例提供了商业版的 X-pack 插件，在使用阿里云ES实例内网地址访问相应Node时，增加了进一步的安全控制，用户可以通过配置IP黑/白名单的方式来控制对阿里云ES实例访问。注意：主要针对内网地址（VPC）访问控制。通过内网地址来访问阿里云ES实例，如果一个节点的IP地址在IP黑名单上，X-Pack的安全性仍然允许该节点被链接，但请求将被直接抛弃不会被处理。 -------重点字样：内网地址，没错这个是用于内网地址ip控制的。优先级允许规则优先于拒绝规则。 -------如果想只允许少数ip访问，那么就需要黑白名单搭配使用，黑名单_all 设置，然后白...

2018-08-09

916

1. 背景介绍 EMR集群中作业写数据到OSS时，需要先将数据缓存在本地，然后再一次性上传到OSS中。EMR支持两种缓存策略： disk off-heap 两种缓存测试使用场景略有区别: 本地磁盘缓存策略适用到任何场景，且能满足较大文件上传需求。堆外内存缓存策略在性能上较磁盘缓存有优势，但是受限于内存资源。在实现上，堆外内存的申请会限制在一定范围内，当数据产生速率超过数据上传速率时，输出流会block住，需要等待进行中的上传任务完成。潜在问题：作业提交到Yarn：当使用堆外内存策略时，存在内存超用被Yarn杀掉的风险。所以在内存参数设置上需要格外小心，不然会影响到作业的稳定性。 2. 如何使用作业参数中配置"fs.oss.upload.bufferType"，可选值为"disk"或者"off-heap"。以下举例： 1. hadoop fs -

2018-08-09

520

资源下载

更多资源

优质分享App

近一个月的开发和优化，本站点的第一个app全新上线。该app采用极致压缩，本体才4.36MB。系统里面做了大量数据访问、缓存优化。方便用户在手机上查看文章。后续会推出HarmonyOS的适配版本。

腾讯云软件源

为解决软件依赖安装时官方源访问速度慢的问题，腾讯云为一些软件搭建了缓存服务。您可以通过使用腾讯云软件源站来提升依赖包的安装速度。为了方便用户自由搭建服务架构，目前腾讯云软件源站支持公网访问和内网访问。

Spring

Spring框架（Spring Framework）是由Rod Johnson于2002年提出的开源Java企业级应用框架，旨在通过使用JavaBean替代传统EJB实现方式降低企业级编程开发的复杂性。该框架基于简单性、可测试性和松耦合性设计理念，提供核心容器、应用上下文、数据访问集成等模块，支持整合Hibernate、Struts等第三方框架，其适用范围不仅限于服务器端开发，绝大多数Java应用均可从中受益。

Rocky Linux

Rocky Linux（中文名：洛基）是由Gregory Kurtzer于2020年12月发起的企业级Linux发行版，作为CentOS稳定版停止维护后与RHEL（Red Hat Enterprise Linux）完全兼容的开源替代方案，由社区拥有并管理，支持x86_64、aarch64等架构。其通过重新编译RHEL源代码提供长期稳定性，采用模块化包装和SELinux安全架构，默认包含GNOME桌面环境及XFS文件系统，支持十年生命周期更新。