国产数据迁移同步工具 CloudCanal v3.3.3.0 发布
CloudCanal 免费社区版 是 ClouGence 公司推出的一款全自研、可视化、自动化数据迁移同步工具,具备 结构迁移、数据迁移、数据同步、数据校验、数据订正 等功能,支持 30+ 款流行关系型数据库、实时数仓、消息中间件、缓存数据库和搜索引擎之间数据互通,其中包含国产数据库 OceanBase,PolarDB, TiDB, StarRocks, Doris, RocketMQ 等。
结合开源项目 CloudCanalProcess ,可方便实现如下功能
- wide-table : 打宽表数据处理插件,主要包括事实表和单维表组合处理
- data-transform : 数据通用转换插件,比如做操作变幻、额外加字段、清洗回填数据
- data-gather : 数据汇聚插件,将分库分表、垂直拆分、异地数据进行实时汇聚
- data-compare : 数据对比插件,根据源端数据变化进行业务对账
- business-alert : 业务告警插件,根据数据变化趋势做出相应告警
CloudCanal 产品功能对标阿里云 DTS, 亚马逊 DMS, StreamSets, AirByte,助力开发、DBA或运维同学快速构建在线数据应用。
Release-Note
重点功能
- 支持 Hana 1.x 版本,目前支持 Hana 版本为 1.x、2.x
- 支持 Hana 增量任务自定义增量表
- 支持 Hana 修改订阅取消表后自动删除触发器
新特性
- 支持 MySQL <-> Tunnel <-> MySQL 双向同步,包括增、删、改操作(不包括DDL), 此能力为 MySQL 双向同步增强版本,两端数据库均可不开公网地址
- 支持 阿里云全托管 SelectDB
- 支持 StarRocks、Doris、SelectDB、Oracle、MariaDB 对端全量前清除数据能力,方便用户重新迁移同步数据
- 支持 MySQL、OceanBase、TiDB、StarRocks、Doris、SelectDB、Oracle、MariaDB 对端创建任务或修改订阅重建对端表
- 支持 MySQL -> TiDB/OceanBase 链路同步 Online DDL 工具语句
- 支持 任务详情 > 更多功能 > 修改任务配置,包括全量前清除对端数据开关、创建任务时重建对端表开关、修改定时全量/增量 Java Cron 表达式
- 支持 MySQL -> MySQL 创建任务第二步可勾选 DROP 操作
- 支持 任务告警按时间段关闭
- 支持 创建任务筛选表可以批量筛选,即选表页面可粘贴 table1;table2;table3;...tableN 进行搜索并自动勾选,解决用户创建任务选表复杂问题
- 支持 任务批量调度到另外一台机器,提高手动任务调度效率
- 支持 CloudCanal 显示 LicenseID,方便后续用户对照 license 到期提醒信息
优化
- 优化 Redis <-> Redis 双向同步防循环策略,且支持更多指令双向同步防循环
- 优化 Redis -> Redis 数据初始化能力,包括 Set、ZSet、List 类型数据初始化
- 优化 Redis -> Redis 指令集 Rename、Incr、Incrby、Hsetnx、Hmset、Lpush、Rpush、Lset、Sadd、Zadd、Zrem、Zremrangebyscore
- 优化 Kafka Debezium Json 支持 Bytes 类型(具体参考:源端 Kafka Debezium Json 使用说明 )
- 优化 TiDB 作为源端 Stub 超时处理逻辑,将超时被动上报调整为主动上报,实现任务不重启,重新订阅 Region
- 优化 TiDB 作为源端获取表信息方案,大幅度优化获取多表信息的速度
- 优化 TiDB 作为源端维护多版本表结构的策略,实现主动清理过期的表结构
- 优化 TiDB 作为源端 DML 事件 sink 条件,使得 DDL 与 DML 消费更有序,降低数据不一致的风险
- 优化 TiDB 作为源端 Error 事件的处理方案,降低 Region 增量扫消费时间
- 优化 TiDB 作为源端性能指标图,新增 5 个指标( CDC 提交事件总数、10秒内 Region 异常总数、10秒内 Region 活跃总数、任务增量扫阶段 Region 总数、Region 总数)
- 优化 MariaDB -> Oracle、Oracle -> Oracle 使用新版本结构迁移
- 优化 PostgreSQL/MySQL -> StarRocks Json 类型字段同步(优化映射规则)
- 优化 修改订阅时规则映射只应用到新增表
- 优化 修改订阅页面防止重复点击
- 优化 CloudCanal 未激活时无法显示控制台监控信息,方便用户在未激活状态下查看当前 Console 状态
问题修复
- 修复 Hana 源端表字段过多,导致创建触发器报错问题
- 修复 Hana 无主键表创建任务报错的问题
- 修复 Hana 小写 Schema/Table/Column 创建任务报错的问题
- 修复 Hana 增量同步无主键表重复插入数据的问题
- 修复 Hana 源端删除任务时导致多次订阅表的触发器被误删除的问题
- 修复 Hana 源端增量阶段数据中存在特殊字符而导致的解析报错问题
- 修复 数据校验任务页面显示丢失、不一致和实际不相符的问题
- 修复 SQL Server 增量同步 LSN 位点排序时被修改而导致的同步中断问题
- 修复 TiDB 作为源端大表多 Region 订阅导致的超时问题,支持设置超时时间
- 修复 TiDB 作为源端任务位点小于 GC 安全点导致的数据不一致问题
- 修复 TiDB 作为源端 Create Database ... 等非同步业务 DDL 导致的解析异常问题
- 修复 TiDB 源端 v6.5.0 以上版本因时间精度导致的增量 GC 安全点检测报错的问题
- 修复 MySQL -> Doris 结构迁移注释未同步到对端的问题
- 修复 MySQL -> StarRocks DDL 新增列默认值丢失的问题
- 修复 MySQL -> StarRocks DDL 修改列属性中带有 Not Null 导致同步失败的问题
- 修复 MySQL -> StarRocks DDL 新增 Text 类型字段同步失败的问题
- 修复 MySQL -> Oracle 表映射无效的问题
- 修复 PostgreSQL -> MySQL 修改订阅对同一张表进行多次加/减操作,导致任务报错的问题
- 修复 任务重跑之后增量位点没有重置的问题
- 修复 Oracle 对端只有外网 Host 情况下,无法删除任务的问题
- 修复 Oracle -> Oracle Schema 不存在映射的情况下修改订阅或创建相似任务默认设置目标端 Schema 为 Public 的问题
- 修复 Kafka/MQ -> MySQL 创建任务页面中消息结构展示与实际选择不一致的问题
- 修复 PostgreSQL -> StarRocks 修改订阅原映射关系失效的问题
- 修复 结构迁移任务创建相似任务报错的问题
- 修复 重置文件位点时,时间位点改变不正确的问题
免费下载与使用

低调大师中文资讯倾力打造互联网数据资讯、行业资源、电子商务、移动互联网、网络营销平台。
持续更新报道IT业界、互联网、市场资讯、驱动更新,是最及时权威的产业资讯及硬件资讯报道平台。
转载内容版权归作者及来源网站所有,本站原创内容转载请注明来源。
- 上一篇
🎉 通用、灵活、高性能分布式 ID 生成器 | CosId 2.6.4 发布
CosId通用、灵活、高性能分布式 ID 生成器 更新内容 全新的官方文档发布!https://ahoowang.gitee.io/cosid/ 特性(doc): 使用VitePress替换VuePress作为静态文档站点生成器 依赖: 升级dependency org.springframework.boot:spring-boot-dependencies版本v3.2.1 依赖: 升级com.google.guava:guava版本v33 依赖: 升级com.github.spotbugs版本v6.0.4 依赖(扩展): 升级org.axonframework:axon-bom版本v4.9.2 依赖(扩展): 升级org.mybatis:mybatis版本v3.5.15 简介 CosId旨在提供通用、灵活、高性能的分布式 ID 生成器。 CosIdGenerator:单机 TPS 性能:1557W/s,三倍于UUID.randomUUID(),基于时钟的全局趋势递增ID。 SnowflakeId:单机 TPS 性能:409W/sJMH 基准测试, 主要解决时钟回拨问题、机器号分配...
- 下一篇
程序员用 AI 自动投简历,极速刷满每天上限 100
介绍一个用 AI 自动投递简历的开源项目,作者表示这个项目结合了 ChatGPT 与 RPA 技术,实现一键自动寻找工作、根据自己的简历和工作描述生成求职信、发送给 HR 的全流程自动操作。 主要流程: 读取招聘平台的招聘信息 结合招聘信息的职位要求和自身简历,写一封求职信并发送给 HR 自动优化投递时的自我介绍 生成真挚的求职信发送给 HR 源代码地址:https://github.com/Frrrrrrrrank/auto_job__find__chatgpt__rpa
相关文章
文章评论
共有0条评论来说两句吧...
文章二维码
点击排行
推荐阅读
最新文章
- CentOS6,7,8上安装Nginx,支持https2.0的开启
- CentOS8,CentOS7,CentOS6编译安装Redis5.0.7
- SpringBoot2更换Tomcat为Jetty,小型站点的福音
- Jdk安装(Linux,MacOS,Windows),包含三大操作系统的最全安装
- CentOS7,8上快速安装Gitea,搭建Git服务器
- SpringBoot2整合MyBatis,连接MySql数据库做增删改查操作
- SpringBoot2全家桶,快速入门学习开发网站教程
- CentOS8安装MyCat,轻松搞定数据库的读写分离、垂直分库、水平分库
- CentOS8编译安装MySQL8.0.19
- CentOS7,CentOS8安装Elasticsearch6.8.6