DataX工具迁移DRDS到DRDS使用介绍
DATAX介绍
DataX 是阿里巴巴集团内被广泛使用的离线数据同步工具/平台,实现包括 MySQL、Oracle、SqlServer、Postgre、HDFS、Hive、ADS、HBase、TableStore(OTS)、MaxCompute(ODPS)、DRDS 等各种异构数据源之间高效的数据同步功能。
使用背景:
阿里云公有云环境
DRDS迁移到DRDS
单表
数据量 2500万行
使用介绍:
1.下载工具
下载网址:
link
2.下载完成后解压工具
3.配置工具配置文件:
创建一个json格式的文件,修改内容:
{ "job": { "content": [ { "reader": { "name": "drdsreader", //源端名字 "parameter": { "column": ["id","bid","name","a1","a2"], //表中包含的列 "password": "JINzi521", //源端密码 "username": "qiany_tool", //用户名 "connection": [ { "table": ["aa3"], //需要迁移的表名 "jdbcUrl": ["jdbc:mysql://drdsXXXXXXXXXXXXXXX.drds.aliyuncs.com:3306/[数据库名称]"] //目的端JDBC链接地址 } ] } }, "writer": { "name": "drdswriter", //目的端名字 "parameter": { "column": ["id","bid","name","a1","a2"], "password": "JINzi521", "username": "qiany_new", "table": ["aa3"], "jdbcUrl": ["jdbc:mysql://drdsXXXXXXXXXXXXXXpublic.drds.aliyuncs.com:3306/qiany_new"] } } } ], "setting": { "speed": { "channel": "5" //并行数目 } } } }
4.启动命令正式迁移
python datax.py [你常见的配置文件名称]
5.迁移过程查看日志文件
工具目录下有log文件,查看效果如下:
低调大师中文资讯倾力打造互联网数据资讯、行业资源、电子商务、移动互联网、网络营销平台。
持续更新报道IT业界、互联网、市场资讯、驱动更新,是最及时权威的产业资讯及硬件资讯报道平台。
转载内容版权归作者及来源网站所有,本站原创内容转载请注明来源。
- 上一篇
聊聊Servlet、Struts1、Struts2以及SpringMvc中的线程安全
前言 很多初学者,甚至是工作1-3年的小伙伴们都可能弄不明白?servlet Struts1 Struts2 springmvc 哪些是单例,哪些是多例,哪些是线程安全? 在谈这个话题之前,我们先了解一下Java中相关的变量类型以及内存模型JMM。 变量类型 类变量:独立于方法之外的变量,用 static 修饰。 局部变量:类的方法中的变量。 实例变量(全局变量):独立于方法之外的变量,不过没有 static 修饰。 JAVA的局部变量 局部变量声明在方法、构造方法或者语句块中; 局部变量在方法、构造方法、或者语句块被执行的时候创建,当它们执行完成后,变量将会被销毁; 访问修饰符不能用于局部变量; 局部变量只在声明它的方法、构造方法或者语句块中可见; 局部变量是在栈上分配的。 局部变量没有默认值,所以局部变量被声明后,必须经过初始化,才可以使用。 JAVA的实例变量 实例变量声明在一个类中,但在方法、构造方法和语句块之外; 当一个对象被实例化之后,每个实例变量的值就跟着确定; 实例变量在对象创建的时候创建,在对象被销毁的时候销毁; 实例变量的值应该至少被一个方法、构造方法或者语句块引用...
- 下一篇
01.AOP(Aspect Orientated Programming面向切面编程)
AOP和OOP可以对比起来进行理解。 下载aspectj 地址 http://www.eclipse.org/aspectj/downloads.php 下载aspectj的adt地址http://www.eclipse.org/ajdt/downloads/#43zips build.gradle aspectJ 写法 http://fernandocejas.com/2014/08/03/aspect-oriented-programming-in-android/ Java本身是一种面相对象的设计语言,在java看来,万物皆对象,任何事物都可以看作一个对象来处理,那么任何一个对象所具有的任何一种功能,都可以看作一个方法,都可以进行封装,一个功能封装为一个方法,这个方法只用来实现这个唯一的功能,别的方法怎样,我不需要关心,我只实现自己的功能,我的功能如何实现,外界也不需要了解,只要在需要的地方调用即可,符合单一职责的编程原则。 但是可想而知,你知道,这只是一种理想的状态,是否真的如上所说,一个方法只要做一件事就可以呢,从大的方面来说,确实如此,但是难保没有意外,例如冰箱的制冷功能,...
相关文章
文章评论
共有0条评论来说两句吧...
文章二维码
点击排行
推荐阅读
最新文章
- CentOS8,CentOS7,CentOS6编译安装Redis5.0.7
- Hadoop3单机部署,实现最简伪集群
- CentOS7编译安装Gcc9.2.0,解决mysql等软件编译问题
- CentOS8安装MyCat,轻松搞定数据库的读写分离、垂直分库、水平分库
- MySQL8.0.19开启GTID主从同步CentOS8
- SpringBoot2配置默认Tomcat设置,开启更多高级功能
- SpringBoot2整合Thymeleaf,官方推荐html解决方案
- Docker快速安装Oracle11G,搭建oracle11g学习环境
- SpringBoot2编写第一个Controller,响应你的http请求并返回结果
- Jdk安装(Linux,MacOS,Windows),包含三大操作系统的最全安装