从Chukwa到Keystone :Netflix 的数据流水线演进
2015 年 12 月,Netflix 新的数据流水线 Keystone 上线。本文将介绍近年来 Netflix 数据流水线的演进。这是介绍新的 Keystone 数据流水线系列文章的第一篇。 Netflix 是一家数据驱动的公司,很多业务和产品决策均基于数据分析作出。数据流水线的作用是在云上收集、聚合、处理和移动数据。Netflix 的几乎每一款应用都会用到该数据流水线。 先来看 Netflix 数据流水线的一些数据: 每天 5000 亿事件, 1.3PB 数据 峰值时间每秒处理 800 万事件,24GB 数据 有数百种事件会通过该流水线,如: 查看视频活动 UI活动 错误日志 性能事件 问题定位和诊断事件 这里需要注意的是,运维相关指标不通过该流水线处理,而是有一个独立的系统—— Atlas,和 Netflix 的其他很多技术一样,该系统也开源了。 在过去这些年,因为需求的变化和技术的发展,Netflix 的数据流水线有几次大的变化。 V1.0 Chukwa 流水线 原始的数据流水线,唯一目的就是聚合事件,并将其上传到 Hadoop/Hive 进行批处理。从下图中也可以看出,架构相...