DataX工具迁移DRDS到DRDS使用介绍
DATAX介绍
DataX 是阿里巴巴集团内被广泛使用的离线数据同步工具/平台,实现包括 MySQL、Oracle、SqlServer、Postgre、HDFS、Hive、ADS、HBase、TableStore(OTS)、MaxCompute(ODPS)、DRDS 等各种异构数据源之间高效的数据同步功能。
使用背景:
阿里云公有云环境
DRDS迁移到DRDS
单表
数据量 2500万行
使用介绍:
1.下载工具
下载网址:
link
2.下载完成后解压工具
3.配置工具配置文件:
创建一个json格式的文件,修改内容:
{
"job": {
"content": [
{
"reader": {
"name": "drdsreader", //源端名字
"parameter": {
"column": ["id","bid","name","a1","a2"], //表中包含的列
"password": "JINzi521", //源端密码
"username": "qiany_tool", //用户名
"connection": [
{
"table": ["aa3"], //需要迁移的表名
"jdbcUrl": ["jdbc:mysql://drdsXXXXXXXXXXXXXXX.drds.aliyuncs.com:3306/[数据库名称]"] //目的端JDBC链接地址
}
]
}
},
"writer": {
"name": "drdswriter", //目的端名字
"parameter": {
"column": ["id","bid","name","a1","a2"],
"password": "JINzi521",
"username": "qiany_new",
"table": ["aa3"],
"jdbcUrl": ["jdbc:mysql://drdsXXXXXXXXXXXXXXpublic.drds.aliyuncs.com:3306/qiany_new"]
}
}
}
],
"setting": {
"speed": {
"channel": "5" //并行数目
}
}
}
}
4.启动命令正式迁移
python datax.py [你常见的配置文件名称]
5.迁移过程查看日志文件
工具目录下有log文件,查看效果如下:

低调大师中文资讯倾力打造互联网数据资讯、行业资源、电子商务、移动互联网、网络营销平台。
持续更新报道IT业界、互联网、市场资讯、驱动更新,是最及时权威的产业资讯及硬件资讯报道平台。
转载内容版权归作者及来源网站所有,本站原创内容转载请注明来源。
-
上一篇
聊聊Servlet、Struts1、Struts2以及SpringMvc中的线程安全
前言 很多初学者,甚至是工作1-3年的小伙伴们都可能弄不明白?servlet Struts1 Struts2 springmvc 哪些是单例,哪些是多例,哪些是线程安全? 在谈这个话题之前,我们先了解一下Java中相关的变量类型以及内存模型JMM。 变量类型 类变量:独立于方法之外的变量,用 static 修饰。 局部变量:类的方法中的变量。 实例变量(全局变量):独立于方法之外的变量,不过没有 static 修饰。 JAVA的局部变量 局部变量声明在方法、构造方法或者语句块中; 局部变量在方法、构造方法、或者语句块被执行的时候创建,当它们执行完成后,变量将会被销毁; 访问修饰符不能用于局部变量; 局部变量只在声明它的方法、构造方法或者语句块中可见; 局部变量是在栈上分配的。 局部变量没有默认值,所以局部变量被声明后,必须经过初始化,才可以使用。 JAVA的实例变量 实例变量声明在一个类中,但在方法、构造方法和语句块之外; 当一个对象被实例化之后,每个实例变量的值就跟着确定; 实例变量在对象创建的时候创建,在对象被销毁的时候销毁; 实例变量的值应该至少被一个方法、构造方法或者语句块引用...
-
下一篇
01.AOP(Aspect Orientated Programming面向切面编程)
AOP和OOP可以对比起来进行理解。 下载aspectj 地址 http://www.eclipse.org/aspectj/downloads.php 下载aspectj的adt地址http://www.eclipse.org/ajdt/downloads/#43zips build.gradle aspectJ 写法 http://fernandocejas.com/2014/08/03/aspect-oriented-programming-in-android/ Java本身是一种面相对象的设计语言,在java看来,万物皆对象,任何事物都可以看作一个对象来处理,那么任何一个对象所具有的任何一种功能,都可以看作一个方法,都可以进行封装,一个功能封装为一个方法,这个方法只用来实现这个唯一的功能,别的方法怎样,我不需要关心,我只实现自己的功能,我的功能如何实现,外界也不需要了解,只要在需要的地方调用即可,符合单一职责的编程原则。 但是可想而知,你知道,这只是一种理想的状态,是否真的如上所说,一个方法只要做一件事就可以呢,从大的方面来说,确实如此,但是难保没有意外,例如冰箱的制冷功能,...
相关文章
文章评论
共有0条评论来说两句吧...