E-MapReduce上如何采集Kafka客户端Metrics-低调大师

E-MapReduce上如何采集Kafka客户端Metrics

2018-08-08 640

1. 背景

我们知道Kafka提供一套非常完善的Metrics数据，覆盖Broker，Consumer，Producer，Stream以及Connect。E-MapReduce通过Ganglia收集了Kafka Broker metrics信息，可以很好地监控Broker运行状态。但完整的Kafka应用包括Kafka Broker和Kafka 客户端这两个角色，当发生读写性能问题时，常常从Broker角度难以发现问题，需要结合客户端的运行状况来联合分析才行。那么Kafka客户端metrics就是一类非常重要的数据。E-MapReduce是如何进行Kafka客户端metrics采集的呢？

（欢迎关注E-MapReduce开源项目：https://github.com/aliyun/aliyun-emapreduce-sdk）

2. 实现

2

微信关注我们

原文链接：https://yq.aliyun.com/articles/624050

转载内容版权归作者及来源网站所有！

低调大师中文资讯倾力打造互联网数据资讯、行业资源、电子商务、移动互联网、网络营销平台。持续更新报道IT业界、互联网、市场资讯、驱动更新,是最及时权威的产业资讯及硬件资讯报道平台。

阿里云Elasticsearch 三大IP设置

前言目前很多用户在阿里云es设置白名单都会比较迷糊，或者没有详细阅读官方文档设置错误，这里给大家梳理一下三大ip设置操作：ip白名单／ip黑名单，Kibana访问白名单，公网地址访问白名单 ip白名单／ip黑名单：具体参考官网文档：https://help.aliyun.com/document_detail/67848.html?spm=a2c4g.11186623.6.554.FRJsh8 这里要说明如下两点内容：阿里云ES实例提供了商业版的 X-pack 插件，在使用阿里云ES实例内网地址访问相应Node时，增加了进一步的安全控制，用户可以通过配置IP黑/白名单的方式来控制对阿里云ES实例访问。注意：主要针对内网地址（VPC）访问控制。通过内网地址来访问阿里云ES实例，如果一个节点的IP地址在IP黑名单上，X-Pack的安全性仍然允许该节点被链接，但请求将被直接抛弃不会被处理。 -------重点字样：内网地址，没错这个是用于内网地址ip控制的。优先级允许规则优先于拒绝规则。 -------如果想只允许少数ip访问，那么就需要黑白名单搭配使用，黑名单_all 设置，然后白...

2018-08-09

892

1. 背景介绍 EMR集群中作业写数据到OSS时，需要先将数据缓存在本地，然后再一次性上传到OSS中。EMR支持两种缓存策略： disk off-heap 两种缓存测试使用场景略有区别: 本地磁盘缓存策略适用到任何场景，且能满足较大文件上传需求。堆外内存缓存策略在性能上较磁盘缓存有优势，但是受限于内存资源。在实现上，堆外内存的申请会限制在一定范围内，当数据产生速率超过数据上传速率时，输出流会block住，需要等待进行中的上传任务完成。潜在问题：作业提交到Yarn：当使用堆外内存策略时，存在内存超用被Yarn杀掉的风险。所以在内存参数设置上需要格外小心，不然会影响到作业的稳定性。 2. 如何使用作业参数中配置"fs.oss.upload.bufferType"，可选值为"disk"或者"off-heap"。以下举例： 1. hadoop fs -

2018-08-09

504

资源下载

更多资源

优质分享App

近一个月的开发和优化，本站点的第一个app全新上线。该app采用极致压缩，本体才4.36MB。系统里面做了大量数据访问、缓存优化。方便用户在手机上查看文章。后续会推出HarmonyOS的适配版本。

Nacos

Nacos /nɑ:kəʊs/ 是 Dynamic Naming and Configuration Service 的首字母简称，一个易于构建 AI Agent 应用的动态服务发现、配置管理和AI智能体管理平台。Nacos 致力于帮助您发现、配置和管理微服务及AI智能体应用。Nacos 提供了一组简单易用的特性集，帮助您快速实现动态服务发现、服务配置、服务元数据、流量管理。Nacos 帮助您更敏捷和容易地构建、交付和管理微服务平台。

Spring

Spring框架（Spring Framework）是由Rod Johnson于2002年提出的开源Java企业级应用框架，旨在通过使用JavaBean替代传统EJB实现方式降低企业级编程开发的复杂性。该框架基于简单性、可测试性和松耦合性设计理念，提供核心容器、应用上下文、数据访问集成等模块，支持整合Hibernate、Struts等第三方框架，其适用范围不仅限于服务器端开发，绝大多数Java应用均可从中受益。

Sublime Text

Sublime Text具有漂亮的用户界面和强大的功能，例如代码缩略图，Python的插件，代码段等。还可自定义键绑定，菜单和工具栏。Sublime Text 的主要功能包括：拼写检查，书签，完整的 Python API ， Goto 功能，即时项目切换，多选择，多窗口等等。Sublime Text 是一个跨平台的编辑器，同时支持Windows、Linux、Mac OS X等操作系统。