国产数据迁移同步工具 CloudCanal v4.3.0.0 发布
CloudCanal 免费社区版 是 ClouGence 公司推出的一款全自研、可视化、自动化数据迁移同步工具,具备 结构迁移、数据迁移、数据同步、数据校验、数据订正 等功能,支持 30+ 款流行关系型数据库、实时数仓、消息中间件、缓存数据库和搜索引擎之间数据互通,其中包含国产数据库 OceanBase、PolarDB、TiDB、StarRocks、Doris、RocketMQ 等。
结合开源项目 CloudCanalProcess ,可方便实现如下功能
- wide-table : 打宽表数据处理插件,主要包括事实表和单维表组合处理
- data-transform : 数据通用转换插件,比如做操作变幻、额外加字段、清洗回填数据
- data-gather : 数据汇聚插件,将分库分表、垂直拆分、异地数据进行实时汇聚
- data-compare : 数据对比插件,根据源端数据变化进行业务对账
- business-alert : 业务告警插件,根据数据变化趋势做出相应告警
CloudCanal 产品功能对标阿里云 DTS、亚马逊 DMS、StreamSets、AirByte,助力开发、DBA 或运维同学快速构建在线数据应用。
Release-Note
新链路
- 开放 Elasticsearch -> Elasticsearch 结构迁移、全量迁移、增量同步 (alpha),安装插件后使用
新特性
- 支持 Hana 基于操作创建触发器(Insert/Update/Delete),即可选部分操作对应的触发器创建
- 支持 Hana 源端全量迁移无主键表(Column 类型)根据 $rowid$ 断点续传
- 支持 MySQL -> MySQL 同步 MySQL 系统库结构迁移、全量同步、增量同步、校验订正
- 支持 StarRocks 源端全量迁移过滤条件拼接(新增任务参数:fullDataSqlConditionEnabled)
- 支持 StarRocks / Doris 写入报错重试(新增任务参数:retryCount、retryWaitTimeMs)
- 支持 MQ 对端过滤增量任务中 data 为空的数据(新增参数 filterEmptyData)
- 支持 OceanBase 源端自定义代码功能
- 支持 目标端 StarRocks、Doris、SelectDB 高级配置可从用户参数中读取(用户参数新增 migrationBucketNumber、migrationPropertiesConfig)
- 支持 任务延迟 和 延迟恢复 国内电话通知(依赖阿里云语音服务)
- 支持 任务延迟恢复通知(IM、电话、短信、邮件)
- 支持 显示和设置任务级别,高到低 P0、P1、P2、P3、P4,配合监控指标 tag 方便接入用户系统告警体系
- 支持 任务监控指标更多 tag, 包括 task_name (e.g.,canalxxxx_INCREMENT), job_desc (任务描述),job_level(任务级别)
- 支持 配置任务 Grafana 监控仪表盘,方便用户对接其他告警方式
- 支持 审计页面展示修改前后的参数变化
- 支持 系统偏好按标签筛选参数
- 支持 系统配置变更进行审计记录
- 支持 主账号级别的手机告警设置,包括 alterVoiceType、taskErrorVoiceTc、taskRecoverVoiceTc、voiceAccessKey、voiceSecretKey 参数
- 支持 主账号级别的短信告警设置,包括 alterSmsType、smsSignName、sysErrorSmsTc、taskErrorSmsTc、taskRecoverSmsTc、smsAccessKey、smsSecretKey 参数
- 支持 openapi 创建任务接口增加设置开启心跳参数
- 支持 openapi 任务重跑接口
- 支持 子账号资源批量授权
优化
- 优化 TiDB 源端增量同步拉取数据性能,支持并行数据拉取
- 优化 对接口中的密码明文进行加密传输
- 优化 SQLServer / MySQL 源端表字段元数据获取速度(新增系统参数 parallelFetchMetaBatchSize)
- 优化 PostgreSQL 源端增量订阅分区表,自动设置复制标识为 FULL
- 优化 子账号可查看有权限的任务异常日志以及调度任务
- 优化 任务默认告警抑制时间调为 5 分钟
- 优化 配置任务告警的内容展示,使其更简洁、聚焦
- 优化 Oracle 源端 DDL 同步,过滤 alter table xxx shrink space check 语句
- 优化 数据校验空字符串与 NULL 视为相等(新增参数 checkEmptyStringEqualToNull;全链路支持 Oracle 源对端默认开启)
问题修复
- 修复 MySQL -> OceanBase enum 类型设置为 '0' 时同步失败的问题
- 修复 Kafka -> MariaDB 链路创建任务时提示不支持的问题
- 修复 系统偏好设置参数后无法撤销的问题
- 修复 系统偏好点击编辑按钮弹框中取值错误的问题
- 修复 Docker 版添加机器,任务重启出现僵尸进程的问题
- 修复 Oracle -> Oracle 链路表中存在联合索引导致数据校验结果有误的问题
- 修复 PostgreSQL 不支持 vector 数据类型导致任务创建失败的问题
- 修复 MySQL 对端结构迁移中,对于 text 类型字段的索引创建,如果带有前缀长度则创建普通索引,如果不带则创建全文索引
- 修复 MySQL 对端结构迁移中,计算表字段总长度,varchar 类型字节数进行调整,防止做过度类型变换 (varchar->text)
- 修复 OpenGauss / Greenplum 获取元信息报错的问题
- 修复 Hana 源端全量迁移 Binary / Blob 类型主键为空字符串报错的问题
- 修复 TiDB 源端增量同步大数据量卡住的问题
免费下载和使用

低调大师中文资讯倾力打造互联网数据资讯、行业资源、电子商务、移动互联网、网络营销平台。
持续更新报道IT业界、互联网、市场资讯、驱动更新,是最及时权威的产业资讯及硬件资讯报道平台。
转载内容版权归作者及来源网站所有,本站原创内容转载请注明来源。
- 上一篇
禅道 20.6 发布,执行任务列表增加所属项目搜索条件,修复 Bug,提升系统稳定性
大家好,禅道20.6发布啦,本次发布在执行的任务列表中支持按所属项目搜索任务,创建通用看板时可以默认带入所属空间的团队成员,同时修复了若干Bug,提升了系统的稳定性。 我们相信新版本将为用户带来更好的使用体验和更高的工作效率。感谢大家一直以来的支持和反馈,我们将继续努力提供更优秀的产品和服务! 新增功能点 优化功能: 执行任务的搜索条件中增加所属项目字段 创建通用看板时可以默认带入所属空间的团队成员 禅道本次发布数据如下: 本期优化的全部需求和Bug:请点击查看 ▼执行任务的搜索条件中增加所属项目字段。 ▼创建通用看板时可以默认带入所属空间的团队成员。 下载链接 Windows 一键安装包 64位 Linux 一键安装包 amd64位arm64位 注:Linux 一键安装包必须直接解压到 /opt 目录下。 源码包下载(tar.xz): 可以通过tar命令或者解压工具解压 php7.0 php7.1 php7.2_7.4 php8.1 源码包下载(zip) php7.0 php7.1 php7.2_7.4 php8.1 DEB包下载:可以通过dpkg包管理器在Ubuntu和Debian...
- 下一篇
Crabc 3.2.0 发布,低代码 API 接口管理平台
Crabc是一款通用的低代码接口开发平台,企业级 API 管理系统,深度整合 SpringCloud 和 Mybatis 实现动态数据源和动态 SQL。 支持接入(Mysql、Oracle、Postgresql、Sqlserver、达梦、TiDB、ES、MongoDB)等 SQL 或 NoSQL 及数仓等数据源, 在线可视化编写 SQL 即可快速生成API接口对外提供服务,并包含接口管理、限流熔断、路由鉴权、日志分析、监控告警、接口转发等企业一站式 API 管理生命周期。 升级说明 1、优化登录失效逻辑 2、优化代码逻辑 3、优化页面 开源地址:crabc-api 官网地址:crabc
相关文章
文章评论
共有0条评论来说两句吧...
文章二维码
点击排行
推荐阅读
最新文章
- Docker安装Oracle12C,快速搭建Oracle学习环境
- CentOS8安装MyCat,轻松搞定数据库的读写分离、垂直分库、水平分库
- CentOS7设置SWAP分区,小内存服务器的救世主
- SpringBoot2整合Redis,开启缓存,提高访问速度
- Springboot2将连接池hikari替换为druid,体验最强大的数据库连接池
- CentOS8,CentOS7,CentOS6编译安装Redis5.0.7
- CentOS7,CentOS8安装Elasticsearch6.8.6
- SpringBoot2整合MyBatis,连接MySql数据库做增删改查操作
- CentOS6,7,8上安装Nginx,支持https2.0的开启
- 2048小游戏-低调大师作品