Kafka实战(三) -Kafka的自我修养-低调大师

Kafka实战(三) -Kafka的自我修养

2019-08-24 685

Apache Kafka是消息引擎系统，也是一个分布式流处理平台（Distributed Streaming Platform）

Kafka是LinkedIn公司内部孵化的项目。LinkedIn最开始有强烈的数据强实时处理方面的需求，其内部的诸多子系统要执行多种类型的数据处理与分析，主要包括业务系统和应用程序性能监控，以及用户行为数据处理等。

遇到的主要问题：

数据正确性不足
数据的收集主要采用轮询（Polling），确定轮询间隔时间就成了高度经验化的难题。虽然可以采用一些启发式算法（Heuristic）来帮助评估，但一旦指定不当，还是会造成较大的数据偏差。
系统高度定制化，维护成本高
各子系统都需要对接数据收集模块，引入了大量的定制开销和人工成本

LinkedIn工程师尝试过使用ActiveMQ解决这些问题，但并不理想

显然需要有一个“大一统”

微信关注我们

原文链接：https://yq.aliyun.com/articles/715722

转载内容版权归作者及来源网站所有！

低调大师中文资讯倾力打造互联网数据资讯、行业资源、电子商务、移动互联网、网络营销平台。持续更新报道IT业界、互联网、市场资讯、驱动更新,是最及时权威的产业资讯及硬件资讯报道平台。

Apache Drill 常用Plugins配置

1.kafka { "type":"kafka", "kafkaConsumerProps":{ "bootstrap.servers":"hostname1:9092,hostname2:9092,hostname3:9092", "group.id":"drill-consumer" }, "enabled":true } 2.hive { "type":"hive", "configProps":{ "hive.metastore.uris":"thrift://hostname:9083", "javax.jdo.option.ConnectionURL":"jdbc:mysql://hostname:3306/hive", "hive.metastore.warehouse.dir":"/user/hive/warehouse", "fs.default.name":"hdfs://hostname:9000", "hive.metatore.sasl.enabled": false }, "enabled":true } 3.hbase { "type":"hbase" "...

2019-08-23

743

摘要：距离上一次MaxCompute新功能的线上发布已经过去了大约一个季度的时间，而在这一段时间里，MaxCompute不断地在增加新的功能和特性，比如参数化视图、UDF支持动态参数、支持分区裁剪、生成建表DDL语句功能等功能都已经得到了广大开发者的广泛使用。那么，近期MaxCompute究竟还有哪些新特性呢？本文就为大家揭晓答案。以下内容根据视频及PPT整理而成。 MaxCompute与阿里云大数据产品解决方案在介绍MaxCompute新功能前，我们先快速对阿里云的大数据产品解决方案进行介绍，以便不熟悉MaxCompute的朋友能快速建立认知。阿里云大数据解决方案中包含了数据接入、数据存储及处理分析、数据服务以及在线应用等这样的几个维度。通常的情况下，基于MaxCompute和阿里云大数据解决方案搭建的系统会通过DataWorks

2019-08-26

810

资源下载

更多资源

Mario

马里奥是站在游戏界顶峰的超人气多面角色。马里奥靠吃蘑菇成长，特征是大鼻子、头戴帽子、身穿背带裤，还留着胡子。与他的双胞胎兄弟路易基一起，长年担任任天堂的招牌角色。

Spring

Spring框架（Spring Framework）是由Rod Johnson于2002年提出的开源Java企业级应用框架，旨在通过使用JavaBean替代传统EJB实现方式降低企业级编程开发的复杂性。该框架基于简单性、可测试性和松耦合性设计理念，提供核心容器、应用上下文、数据访问集成等模块，支持整合Hibernate、Struts等第三方框架，其适用范围不仅限于服务器端开发，绝大多数Java应用均可从中受益。

Rocky Linux

Rocky Linux（中文名：洛基）是由Gregory Kurtzer于2020年12月发起的企业级Linux发行版，作为CentOS稳定版停止维护后与RHEL（Red Hat Enterprise Linux）完全兼容的开源替代方案，由社区拥有并管理，支持x86_64、aarch64等架构。其通过重新编译RHEL源代码提供长期稳定性，采用模块化包装和SELinux安全架构，默认包含GNOME桌面环境及XFS文件系统，支持十年生命周期更新。

Sublime Text

Sublime Text具有漂亮的用户界面和强大的功能，例如代码缩略图，Python的插件，代码段等。还可自定义键绑定，菜单和工具栏。Sublime Text 的主要功能包括：拼写检查，书签，完整的 Python API ， Goto 功能，即时项目切换，多选择，多窗口等等。Sublime Text 是一个跨平台的编辑器，同时支持Windows、Linux、Mac OS X等操作系统。