【阿里内部应用】基于Blink构建亲听项目以及全链路debug项目实时响应能力
案例与解决方案汇总页:
阿里云实时计算产品案例&解决方案汇总
本文全面总结了大数据项目组在亲听项目以及全链路debug项目上进行的实时流处理需求梳理,架构选型,以及达成效果
一、背景介绍
1.1亲听项目
亲听项目专注于帮助用户收集、展示、监控和处理用户体验问题,是保证产品的主观评价质量的利器,关于其具体功能可参考在ata搜索"亲听"查看系列文章。目前亲听项目的实时流处理需求来自算法效果监控,算法效果监控需要对上游TimeTunnel日志进行解析后经过处理得到一些关键指标,亲听通过对这些指标的前端展示和阈值监控报警达到算法效果监控目的。
需求要点可以总结如下:
- 上游需要处理的TimeTunnel日志的实时数据量大约在日常峰值每秒数万条记录,大促峰值每秒几十万条记录
- 从用户搜索行为到亲听系统得到搜索行为指标数据秒级的低延时
- 数据的处理逻辑较为复
