首页 文章 精选 留言 我的
优秀的个人博客,低调大师

微信关注我们

原文链接:https://my.oschina.net/sofastack/blog/5559161

转载内容版权归作者及来源网站所有!

低调大师中文资讯倾力打造互联网数据资讯、行业资源、电子商务、移动互联网、网络营销平台。持续更新报道IT业界、互联网、市场资讯、驱动更新,是最及时权威的产业资讯及硬件资讯报道平台。

字节跳动的 Flink OLAP 作业调度和查询执行优化实践

一、背景 字节跳动内部有很多混合计算的需求,需要一套既支持 TP 计算,也支持 AP 计算的系统。下图是字节跳动 HTAP 系统的总体架构。系统使用内部自研的数据库作为 TP 计算引擎,使用 Flink 作为 AP 的计算引擎。 字节跳动 HTAP 系统的总体架构 HTAP 系统对外支持 MySQL 协议,MySQLProxy 接收到查询后根据查询的复杂度和特点(是否使用索引等),将查询分发给 TP 或者 AP 计算引擎。Flink SQL Gateway 是 AP 计算引擎的查询入口,接收到 AP 查询后生成 Flink 作业执行计划,并提交到 Flink 集群调度和执行。AP 计算引擎有一个列式存储,Flink 集群通过 Catalog 和 Connector 的接口,分别与存储层的元信息和数据查询接口进行交互。AP 计算引擎完成计算后,Client 端会向 Flink Gateway 发起读取结果数据请求,Gateway 再向 Flink 集群读取结果数据,所有结果数据返回给 Client 后作业就完成了整个 AP 计算流程。 Flink 是流批一体的计算引擎,在业界通常作为流式...

开源项目丨Taier1.2版本发布,新增工作流、租户绑定简化等多项功能

2022年7月26日,Taier1.2版本正式发布! 本次版本发布更新功能: 新增工作流 新增OceanBase SQL 新增Flink jar任务 数据同步、实时采集支持脏数据管理 Hive UDF 控制台UI升级 租户绑定简化 新版本的使用文档已在社区中推送,大家可以随时下载查阅,欢迎大家体验新版本功能**(喜欢我们的项目欢迎大家点个Star)**,体验地址: Github: https://github.com/DTStack/Taier Gitee: https://gitee.com/dtstack_dev_0/taier 社区: https://dtstack.github.io/Taier/ Taier1.2版本介绍 Taier 是一个大数据分布式可视化的DAG任务调度系统,旨在降低ETL开发成本、提高大数据平台稳定性,大数据开发人员可以在 Taier 直接进行业务逻辑的开发,而不用关心任务错综复杂的依赖关系与底层的大数据平台的架构实现,将工作的重心更多地聚焦在业务之中。 Taier 脱胎于袋鼠云数栈,技术实现来源于数栈分布式调度引擎DAGScheduleX,是数栈产品的...

相关文章

发表评论

资源下载

更多资源
优质分享App

优质分享App

近一个月的开发和优化,本站点的第一个app全新上线。该app采用极致压缩,本体才4.36MB。系统里面做了大量数据访问、缓存优化。方便用户在手机上查看文章。后续会推出HarmonyOS的适配版本。

Mario

Mario

马里奥是站在游戏界顶峰的超人气多面角色。马里奥靠吃蘑菇成长,特征是大鼻子、头戴帽子、身穿背带裤,还留着胡子。与他的双胞胎兄弟路易基一起,长年担任任天堂的招牌角色。

Spring

Spring

Spring框架(Spring Framework)是由Rod Johnson于2002年提出的开源Java企业级应用框架,旨在通过使用JavaBean替代传统EJB实现方式降低企业级编程开发的复杂性。该框架基于简单性、可测试性和松耦合性设计理念,提供核心容器、应用上下文、数据访问集成等模块,支持整合Hibernate、Struts等第三方框架,其适用范围不仅限于服务器端开发,绝大多数Java应用均可从中受益。

Rocky Linux

Rocky Linux

Rocky Linux(中文名:洛基)是由Gregory Kurtzer于2020年12月发起的企业级Linux发行版,作为CentOS稳定版停止维护后与RHEL(Red Hat Enterprise Linux)完全兼容的开源替代方案,由社区拥有并管理,支持x86_64、aarch64等架构。其通过重新编译RHEL源代码提供长期稳定性,采用模块化包装和SELinux安全架构,默认包含GNOME桌面环境及XFS文件系统,支持十年生命周期更新。

用户登录
用户注册