国产数据迁移同步工具 CloudCanal v3.4.0.0 发布
CloudCanal 免费社区版 是 ClouGence 公司推出的一款全自研、可视化、自动化数据迁移同步工具,具备 结构迁移、数据迁移、数据同步、数据校验、数据订正 等功能,支持 30+ 款流行关系型数据库、实时数仓、消息中间件、缓存数据库和搜索引擎之间数据互通,其中包含国产数据库 OceanBase,PolarDB, TiDB, StarRocks, Doris, RocketMQ 等。
结合开源项目 CloudCanalProcess ,可方便实现如下功能
- wide-table : 打宽表数据处理插件,主要包括事实表和单维表组合处理
- data-transform : 数据通用转换插件,比如做操作变幻、额外加字段、清洗回填数据
- data-gather : 数据汇聚插件,将分库分表、垂直拆分、异地数据进行实时汇聚
- data-compare : 数据对比插件,根据源端数据变化进行业务对账
- business-alert : 业务告警插件,根据数据变化趋势做出相应告警
CloudCanal 产品功能对标阿里云 DTS, 亚马逊 DMS, StreamSets, AirByte,助力开发、DBA 或运维同学快速构建在线数据应用。
Release-Note
新链路
- 开放 GuassDbForOpenGuass <-> GuassDbForOpenGuass 双向数据同步、结构迁移、全量迁移、增量同步、数据校验
- 开放 Hana -> Kafka 结构迁移、全量迁移、增量同步
新特性
- 支持 MySQL -> Hive 增量数据同步
- 支持 Hive 目标端全量前清空对端表数据和重建表功能
- 支持 PostgreSQL <-> PostgreSQL 双向数据同步
- 支持 SQL Server 跨网络通过 Tunnel 数据源写入数据到 MySQL (SQL Server->Tunnel->MySQL)
- 支持 OceanBase -> SQL Server 数据校验能力
- 支持 使用 OpenApi 创建任务时自定义 dstWholeReplace 参数值
- 支持 添加 SQL Server 数据源时指定默认数据库
- 支持 MySQL 源端增量同步任务重置位点修改 SERVER ID
- 支持 Kafka 对端写入添加自定义消息头(新增参数:customHeader)
问题修复
- 修复 关注列表中未显示已关注的他人创建任务的问题
- 修复 OnlineDDL 工具的临时表没有同步源表映射关系的问题
- 修复 PostgreSQL / GuassDbForOpenGuass 对端 DB 存在,Schema 待创建,但是结构迁移不会创建 Schema 的问题
- 修复 MySQL -> ElasticSearch / MongoDB 增量同步时异步队列内存值计算不准确的问题
- 修复 未开启校验订正功能链路创建一次性校验订正子任务的问题
- 修复 Hive 获取 Column 元信息 NPE 的问题
