您现在的位置是:首页 > 文章详情

国产数据迁移同步工具 CloudCanal v3.3.3.0 发布

日期:2024-01-03点击:88

CloudCanal 免费社区版  ClouGence 公司推出的一款全自研可视化自动化数据迁移同步工具,具备 结构迁移数据迁移数据同步数据校验数据订正 等功能,支持 30+ 款流行关系型数据库、实时数仓、消息中间件、缓存数据库和搜索引擎之间数据互通,其中包含国产数据库 OceanBase,PolarDB, TiDBStarRocks, Doris, RocketMQ 等。

结合开源项目 CloudCanalProcess ,可方便实现如下功能

  • wide-table : 打宽表数据处理插件,主要包括事实表和单维表组合处理
  • data-transform : 数据通用转换插件,比如做操作变幻、额外加字段、清洗回填数据
  • data-gather : 数据汇聚插件,将分库分表、垂直拆分、异地数据进行实时汇聚
  • data-compare : 数据对比插件,根据源端数据变化进行业务对账
  • business-alert : 业务告警插件,根据数据变化趋势做出相应告警

CloudCanal 产品功能对标阿里云 DTS,  亚马逊 DMS,  StreamSets, AirByte,助力开发、DBA或运维同学快速构建在线数据应用。

Release-Note

重点功能

  • 支持 Hana 1.x 版本,目前支持 Hana 版本为 1.x、2.x
  • 支持 Hana 增量任务自定义增量表
  • 支持 Hana 修改订阅取消表后自动删除触发器

新特性

  • 支持 MySQL <-> Tunnel <-> MySQL 双向同步,包括增、删、改操作(不包括DDL), 此能力为 MySQL 双向同步增强版本,两端数据库均可不开公网地址
  • 支持 阿里云全托管 SelectDB
  • 支持 StarRocks、Doris、SelectDB、Oracle、MariaDB 对端全量前清除数据能力,方便用户重新迁移同步数据
  • 支持 MySQL、OceanBase、TiDB、StarRocks、Doris、SelectDB、Oracle、MariaDB 对端创建任务或修改订阅重建对端表
  • 支持 MySQL -> TiDB/OceanBase 链路同步 Online DDL 工具语句
  • 支持 任务详情 > 更多功能 > 修改任务配置,包括全量前清除对端数据开关、创建任务时重建对端表开关、修改定时全量/增量 Java Cron 表达式
  • 支持 MySQL -> MySQL 创建任务第二步可勾选 DROP 操作
  • 支持 任务告警按时间段关闭
  • 支持 创建任务筛选表可以批量筛选,即选表页面可粘贴 table1;table2;table3;...tableN 进行搜索并自动勾选,解决用户创建任务选表复杂问题
  • 支持 任务批量调度到另外一台机器,提高手动任务调度效率
  • 支持 CloudCanal 显示 LicenseID,方便后续用户对照 license 到期提醒信息

优化

  • 优化 Redis <-> Redis 双向同步防循环策略,且支持更多指令双向同步防循环
  • 优化 Redis -> Redis 数据初始化能力,包括 Set、ZSet、List 类型数据初始化
  • 优化 Redis -> Redis 指令集 Rename、Incr、Incrby、Hsetnx、Hmset、Lpush、Rpush、Lset、Sadd、Zadd、Zrem、Zremrangebyscore
  • 优化 Kafka Debezium Json 支持 Bytes 类型(具体参考:源端 Kafka Debezium Json 使用说明 
  • 优化 TiDB 作为源端 Stub 超时处理逻辑,将超时被动上报调整为主动上报,实现任务不重启,重新订阅 Region
  • 优化 TiDB 作为源端获取表信息方案,大幅度优化获取多表信息的速度
  • 优化 TiDB 作为源端维护多版本表结构的策略,实现主动清理过期的表结构
  • 优化 TiDB 作为源端 DML 事件 sink 条件,使得 DDL 与 DML 消费更有序,降低数据不一致的风险
  • 优化 TiDB 作为源端 Error 事件的处理方案,降低 Region 增量扫消费时间
  • 优化 TiDB 作为源端性能指标图,新增 5 个指标( CDC 提交事件总数、10秒内 Region 异常总数、10秒内 Region 活跃总数、任务增量扫阶段 Region 总数、Region 总数)
  • 优化 MariaDB -> Oracle、Oracle -> Oracle 使用新版本结构迁移
  • 优化 PostgreSQL/MySQL -> StarRocks Json 类型字段同步(优化映射规则)
  • 优化 修改订阅时规则映射只应用到新增表
  • 优化 修改订阅页面防止重复点击
  • 优化 CloudCanal 未激活时无法显示控制台监控信息,方便用户在未激活状态下查看当前 Console 状态

问题修复

  • 修复 Hana 源端表字段过多,导致创建触发器报错问题
  • 修复 Hana 无主键表创建任务报错的问题
  • 修复 Hana 小写 Schema/Table/Column 创建任务报错的问题
  • 修复 Hana 增量同步无主键表重复插入数据的问题
  • 修复 Hana 源端删除任务时导致多次订阅表的触发器被误删除的问题
  • 修复 Hana 源端增量阶段数据中存在特殊字符而导致的解析报错问题
  • 修复 数据校验任务页面显示丢失、不一致和实际不相符的问题
  • 修复 SQL Server 增量同步 LSN 位点排序时被修改而导致的同步中断问题
  • 修复 TiDB 作为源端大表多 Region 订阅导致的超时问题,支持设置超时时间
  • 修复 TiDB 作为源端任务位点小于 GC 安全点导致的数据不一致问题
  • 修复 TiDB 作为源端 Create Database ... 等非同步业务 DDL 导致的解析异常问题
  • 修复 TiDB 源端 v6.5.0 以上版本因时间精度导致的增量 GC 安全点检测报错的问题
  • 修复 MySQL -> Doris 结构迁移注释未同步到对端的问题
  • 修复 MySQL -> StarRocks DDL 新增列默认值丢失的问题
  • 修复 MySQL -> StarRocks DDL 修改列属性中带有 Not Null 导致同步失败的问题
  • 修复 MySQL -> StarRocks DDL 新增 Text 类型字段同步失败的问题
  • 修复 MySQL -> Oracle 表映射无效的问题
  • 修复 PostgreSQL -> MySQL 修改订阅对同一张表进行多次加/减操作,导致任务报错的问题
  • 修复 任务重跑之后增量位点没有重置的问题
  • 修复 Oracle 对端只有外网 Host 情况下,无法删除任务的问题
  • 修复 Oracle -> Oracle Schema 不存在映射的情况下修改订阅或创建相似任务默认设置目标端 Schema 为 Public 的问题
  • 修复 Kafka/MQ -> MySQL 创建任务页面中消息结构展示与实际选择不一致的问题
  • 修复 PostgreSQL -> StarRocks 修改订阅原映射关系失效的问题
  • 修复 结构迁移任务创建相似任务报错的问题
  • 修复 重置文件位点时,时间位点改变不正确的问题

免费下载与使用

原文链接:https://www.oschina.net/news/274002/cloudcanal-3-3-3-0-released
关注公众号

低调大师中文资讯倾力打造互联网数据资讯、行业资源、电子商务、移动互联网、网络营销平台。

持续更新报道IT业界、互联网、市场资讯、驱动更新,是最及时权威的产业资讯及硬件资讯报道平台。

转载内容版权归作者及来源网站所有,本站原创内容转载请注明来源。

文章评论

共有0条评论来说两句吧...

文章二维码

扫描即可查看该文章

点击排行

推荐阅读

最新文章