分布式消息队列kafka
kafka是Linkedin开源的分布式发布-订阅消息系统(消息队列) kafka特点 1 高吞吐率、低延迟,每秒处理几十万消息,延迟最低几毫秒 2 可扩展性,支持动态扩展节点数据 3 持久性与可靠性,数据被持久化磁盘,支持数据多副本防止数据丢失 4 高容错,允许节点失败 5 高并发,支持上千个客户端同时读写 架构如图 kafka:produce 1 向broker发送消息 2 可通过任意一个broker发现其他broker的位置信息 3 消息组成 topic key value timestamp kafka:broker 1 producer和consumer之间的桥梁 从producer端接收消息,并保存下来 将消息发送给订阅的consumer 2 可将消息可靠地缓存一段时间 每个消息保存成多副本(默认3) 可设置保存时间(默认时间) kafka:partition与topic topic 用户划分message的逻辑概念,一个topic可以分布到不通的broker上 partition kafka横向扩展和一切并行化的基础,每个topic至少分成1个partitio...
