首页 文章 精选 留言 我的
优秀的个人博客,低调大师

微信关注我们

原文链接:https://my.oschina.net/sofastack/blog/5559161

转载内容版权归作者及来源网站所有!

低调大师中文资讯倾力打造互联网数据资讯、行业资源、电子商务、移动互联网、网络营销平台。持续更新报道IT业界、互联网、市场资讯、驱动更新,是最及时权威的产业资讯及硬件资讯报道平台。

字节跳动的 Flink OLAP 作业调度和查询执行优化实践

一、背景 字节跳动内部有很多混合计算的需求,需要一套既支持 TP 计算,也支持 AP 计算的系统。下图是字节跳动 HTAP 系统的总体架构。系统使用内部自研的数据库作为 TP 计算引擎,使用 Flink 作为 AP 的计算引擎。 字节跳动 HTAP 系统的总体架构 HTAP 系统对外支持 MySQL 协议,MySQLProxy 接收到查询后根据查询的复杂度和特点(是否使用索引等),将查询分发给 TP 或者 AP 计算引擎。Flink SQL Gateway 是 AP 计算引擎的查询入口,接收到 AP 查询后生成 Flink 作业执行计划,并提交到 Flink 集群调度和执行。AP 计算引擎有一个列式存储,Flink 集群通过 Catalog 和 Connector 的接口,分别与存储层的元信息和数据查询接口进行交互。AP 计算引擎完成计算后,Client 端会向 Flink Gateway 发起读取结果数据请求,Gateway 再向 Flink 集群读取结果数据,所有结果数据返回给 Client 后作业就完成了整个 AP 计算流程。 Flink 是流批一体的计算引擎,在业界通常作为流式...

开源项目丨Taier1.2版本发布,新增工作流、租户绑定简化等多项功能

2022年7月26日,Taier1.2版本正式发布! 本次版本发布更新功能: 新增工作流 新增OceanBase SQL 新增Flink jar任务 数据同步、实时采集支持脏数据管理 Hive UDF 控制台UI升级 租户绑定简化 新版本的使用文档已在社区中推送,大家可以随时下载查阅,欢迎大家体验新版本功能**(喜欢我们的项目欢迎大家点个Star)**,体验地址: Github: https://github.com/DTStack/Taier Gitee: https://gitee.com/dtstack_dev_0/taier 社区: https://dtstack.github.io/Taier/ Taier1.2版本介绍 Taier 是一个大数据分布式可视化的DAG任务调度系统,旨在降低ETL开发成本、提高大数据平台稳定性,大数据开发人员可以在 Taier 直接进行业务逻辑的开发,而不用关心任务错综复杂的依赖关系与底层的大数据平台的架构实现,将工作的重心更多地聚焦在业务之中。 Taier 脱胎于袋鼠云数栈,技术实现来源于数栈分布式调度引擎DAGScheduleX,是数栈产品的...

相关文章

发表评论

资源下载

更多资源
Mario

Mario

马里奥是站在游戏界顶峰的超人气多面角色。马里奥靠吃蘑菇成长,特征是大鼻子、头戴帽子、身穿背带裤,还留着胡子。与他的双胞胎兄弟路易基一起,长年担任任天堂的招牌角色。

腾讯云软件源

腾讯云软件源

为解决软件依赖安装时官方源访问速度慢的问题,腾讯云为一些软件搭建了缓存服务。您可以通过使用腾讯云软件源站来提升依赖包的安装速度。为了方便用户自由搭建服务架构,目前腾讯云软件源站支持公网访问和内网访问。

Sublime Text

Sublime Text

Sublime Text具有漂亮的用户界面和强大的功能,例如代码缩略图,Python的插件,代码段等。还可自定义键绑定,菜单和工具栏。Sublime Text 的主要功能包括:拼写检查,书签,完整的 Python API , Goto 功能,即时项目切换,多选择,多窗口等等。Sublime Text 是一个跨平台的编辑器,同时支持Windows、Linux、Mac OS X等操作系统。

WebStorm

WebStorm

WebStorm 是jetbrains公司旗下一款JavaScript 开发工具。目前已经被广大中国JS开发者誉为“Web前端开发神器”、“最强大的HTML5编辑器”、“最智能的JavaScript IDE”等。与IntelliJ IDEA同源,继承了IntelliJ IDEA强大的JS部分的功能。

用户登录
用户注册