落地 ZeroETL 轻量化架构,ByteHouse 推出“四个一体化”战略
在数字化转型的浪潮中,数据仓库作为企业的核心数据资产,其重要性日益凸显。随着业务范围扩大,企业也会使用不同的数据仓库来管理、维护相关数据。研发人员需要花费大量时间和精力,从中导出数据,然后进行手动整理、转换格式,再导入到分析工具中完成数据分析。该过程不仅繁琐,还容易出错。
ZeroETL 则提供了一个全新的解决方案,让研发人员无需操作复杂的数据抽取、转换和加载(ETL)过程就能实现数据整合和分析。它能够自动从不同软件中获取数据,直接将数据整合到一起,以统一格式呈现,帮助使用者更快速、轻松地进行数据分析。
而火山引擎云原生数据仓库 ByteHouse 则通过“四个一体化”逐步实现 ZeroETL 轻量化数据架构,不仅让数仓更轻快,数据免开发,还能保障数据质量,实现智能运维
据火山引擎 ByteHouse 产品负责人介绍,“ByteHouse 是一款 OLAP(联机分析处理)产品,用人体比喻,相当于腰部,为力量汇聚之地。但如果缺少四肢的支撑,腰部产品很难独立发挥作用。由此,ByteHouse 提出‘四个一体化’的核心理念,旨在通过全面融合,实现数据的无缝流动和高效利用。”
ByteHouse“四个一体化”架构
首先,TP、AP 一体化。TP(联机事务处理)和 AP(联机分析处理)的一体化是 ByteHouse 的核心优势之一。通过这一技术,ByteHouse 能够实时捕获上游数据,实现数据的即时分析和消费。其中,CDC(变更数据捕获)技术能够将上游数据库的变更数据以秒级速度拉取到数据仓库中,为报表和仪表盘提供实时数据支持。此外,ByteHouse 还与主流的 CDC 产品实现了无缝对接,包括火山引擎数智平台 VeDI 旗下的 DataSail、开源的 DataX、Flink 等,进一步增强了数据的实时性和准确性。
其次,湖、仓一体化。在数据湖和数据仓库的融合方面,ByteHouse 支持对 Lake 中的数据以外表的方式进行读写,包括 ORC、Parquet、Hive、Iceberg、Paimon 和 Hudi 等开放格式。同时,为了加速性能,ByteHouse 在优化器和 Schema 动态感知层面做了增强,并为开放格式提供了原生读取器,确保在湖仓之间实现高性能的数据流动。
再次,AP、AI 一体化。ByteHouse 开发了 Vector search 高级引擎,其可插拔的特点让用户可以根据不同的应用需求开启不同的计算组。此外,ByteHouse 还在不断探索运用 AI 能力让数据仓库变得更加智能,包括查询优化、索引物化视图、cache、schema 等方面。
最后,仓、市一体化。对于上规模的公司而言,数据分析中台往往由多个集群构成,数据流动复杂。ByteHouse 通过 Remote 方式实现了不同集群之间的数据联邦,帮助用户免除数据搬迁的繁琐操作,不仅提高了数据流动的效率和准确性,还降低了运维成本。
通过“四个一体化”战略的实施,ByteHouse 实现了 Zero ETL 理念。Zero ETL 不止指一种工具,更是强调数据的轻量化、高效化和智能化的理念。基于该理念,ByteHouse 能帮助企业实现数据免搬迁、开发敏捷化、数据质量提升以及运维智能化。未来,随着技术的不断迭代和升级,ByteHouse 将继续为企业提供更加高效、智能和可靠的云原生数仓解决方案。

低调大师中文资讯倾力打造互联网数据资讯、行业资源、电子商务、移动互联网、网络营销平台。
持续更新报道IT业界、互联网、市场资讯、驱动更新,是最及时权威的产业资讯及硬件资讯报道平台。
转载内容版权归作者及来源网站所有,本站原创内容转载请注明来源。
- 上一篇
全域用户建模在美团首页推荐的探索与实践
本文详述了全域建模技术在美团首页推荐系统的发展和演进。美团首页推荐算法团队通过多阶段递进式探索验证,在召回与排序模块引入多展位、多应用渠道的多源用户交互数据,并在落地过程中解决了美团多展位、多业务、时空场景强相关性的特点导致的严重跨域信号负迁移挑战。 一、背景 1.1 产品形态及业务特点 美团首页推荐展位,如下图1所示,是用户打开美团App后,触达美团各业务的流量入口,每天服务数千万用户。首页推荐的核心能力体现在差异化地承载并快速响应用户个性化需求,需要支持高效分发外卖、餐饮、休闲娱乐、酒店旅游、优选、买菜、电商、超市闪购等各种业务供给。业务之间在履约特性、供给特点之间存在巨大的差异性,如外卖业务通常为用户"饭点儿"的即时随性消费,受到配送距离的强限制;酒店旅游业务需较长周期种草规划,偏好相对稳定,但集中于特定节假日时段;电商业务随着不同品类不同场景对于履约周期有所取舍。这些特点对个性化推荐建模提出了较高的要求。 1.2 全域用户建模的必要性 全域用户建模是指在多个平台、多个应用或多个领域中,整合用户在不同环境下的行为数据,构建一个统一的用户画像或模型。这种建模方法旨在更全面地了解用户...
- 下一篇
集群“脑裂”问题
一、定义 “脑裂”问题,就是指在同一个集群中的不同节点,对集群的状态有了不同理解。体现在集群中不同的节点对于master的选择出现了分歧,出现了多个master竞争 二、“脑裂“问题剖析 (一)“脑裂”问题成因 网络问题 集群间的网络延迟导致一些节点访问不到master,认为master挂掉了从而选举出新的master,并对master上的分片和副本标红,分配新的主分片,如ES集群、Redis集群等。 节点负载 主节点的角色既为master又为data,访问量较大时可能会导致停止响应造成大面积延迟,此时其他节点得不到主节点的响应认为主节点挂掉了,会重新选取主节点,如ES集群,Redis集群等 内存回收 data节点进程占用的内存较大,引发大规模内存回收,造成进程失去响应,如ES集群、Zookeeper集群、Redis集群。 (二)“脑裂”问题后果 数据不完整性(同时读写共享资源,导致数据损坏)。 服务异常(共享资源被瓜分,服务起不来,如zookeeper集群)。 三、“脑裂”问题解决办法 “脑裂”问题是一个比较复杂的问题,需要从多个方面进行综合考虑和解决,分布式集群中可以从如下几个方面...
相关文章
文章评论
共有0条评论来说两句吧...
文章二维码
点击排行
推荐阅读
最新文章
- Springboot2将连接池hikari替换为druid,体验最强大的数据库连接池
- CentOS7设置SWAP分区,小内存服务器的救世主
- Mario游戏-低调大师作品
- Docker使用Oracle官方镜像安装(12C,18C,19C)
- 2048小游戏-低调大师作品
- Jdk安装(Linux,MacOS,Windows),包含三大操作系统的最全安装
- MySQL8.0.19开启GTID主从同步CentOS8
- CentOS8安装Docker,最新的服务器搭配容器使用
- CentOS8安装MyCat,轻松搞定数据库的读写分离、垂直分库、水平分库
- CentOS7编译安装Cmake3.16.3,解决mysql等软件编译问题