elasticsearch-datatran v6.2.9 发布,Elasticsearch 高效数据同步工具

elasticsearch-datatran v6.2.9 已经发布,这是一个 Elasticsearch 高效数据同步工具。Elasticsearch-datatran 由 bboss 开源的数据同步迁移工具,支持在Elasticsearch、关系数据库(mysql,oracle,db2,sqlserver、达梦等)、Mongodb、HBase、Hive、Kafka、文本文件、SFTP/FTP多种数据源之间进行海量数据同步;支持日志文件实时增量采集到kafka/elasticsearch/database。

Elasticsearch版本兼容性:支持各种Elasticsearch版本(1.x,2.x,5.x,6.x,7.x,+)之间相互数据迁移。

v6.2.9 功能改进

数据同步改进:完善ip2region和geoip数据库热加载机制

Restclient改进:升级httpcliet组件版本到最新的官方版本4.5.13

Restclient改进:升级fastxml jackson databind版本2.9.10.8

Restclient改进:增加对elasticsearch pit机制的支持,参考用例:

testPitId方法

https://gitee.com/bboss/eshelloword-spring-boot-starter/blob/master/src/test/java/org/bboss/elasticsearchtest/springboot/SimpleBBossESStarterTestCase.java

数据同步工具扩展:增加日志文件采集插件,支持全量和增量采集两种模式,实时采集日志文件数据到kafka/elasticsearch/database

使用文档:https://esdoc.bbossgroups.com/#/filelog-guide

日志文件采集插件使用案例:

采集日志数据并写入数据库 采集日志数据并写入Elasticsearch 采集日志数据并发送到Kafka 之前版本升级6.2.9注意事项,需手动修改增量同步状态表结构,增加下面三个字段:

status number(1) , //数据采集完成状态:0-采集中(默认值) 1-完成 适用于文件日志采集 默认值 0 filePath varchar(500) //日志文件路径,默认值"" fileId varchar(500) //日志文件indoe标识,默认值"" Restclient改进:设每个elasticsearch数据源默认版本兼容性为7,为了处理启动时无法连接es的情况,可以根据连接的es来配置和调整每个elasticsearch数据源的配置,示例如下: elasticsearch.version=7.12.0

调整gradle构建脚本语法,保持与gradle 7的兼容性

Restclient改进:elasticsearch节点自动发现和故障节点健康检查后台线程模型调整为daemon模式

http-proxy改进:http-proxy节点自动发现和故障节点健康检查后台线程模型调整为daemon模式

详情查看:https://gitee.com/bboss/bboss-elastic-tran/releases/v6.2.9

优秀的个人博客,低调大师

微信关注我们

原文链接:https://www.oschina.net/news/138221/elasticsearch-datatran-6-2-9-released

转载内容版权归作者及来源网站所有!

低调大师中文资讯倾力打造互联网数据资讯、行业资源、电子商务、移动互联网、网络营销平台。持续更新报道IT业界、互联网、市场资讯、驱动更新,是最及时权威的产业资讯及硬件资讯报道平台。

相关文章

发表评论

资源下载

更多资源
优质分享Android(本站安卓app)

优质分享Android(本站安卓app)

近一个月的开发和优化,本站点的第一个app全新上线。该app采用极致压缩,本体才4.36MB。系统里面做了大量数据访问、缓存优化。方便用户在手机上查看文章。后续会推出HarmonyOS的适配版本。

Eclipse(集成开发环境)

Eclipse(集成开发环境)

Eclipse 是一个开放源代码的、基于Java的可扩展开发平台。就其本身而言,它只是一个框架和一组服务,用于通过插件组件构建开发环境。幸运的是,Eclipse 附带了一个标准的插件集,包括Java开发工具(Java Development Kit,JDK)。

Java Development Kit(Java开发工具)

Java Development Kit(Java开发工具)

JDK是 Java 语言的软件开发工具包,主要用于移动设备、嵌入式设备上的java应用程序。JDK是整个java开发的核心,它包含了JAVA的运行环境(JVM+Java系统类库)和JAVA工具。

Sublime Text 一个代码编辑器

Sublime Text 一个代码编辑器

Sublime Text具有漂亮的用户界面和强大的功能,例如代码缩略图,Python的插件,代码段等。还可自定义键绑定,菜单和工具栏。Sublime Text 的主要功能包括:拼写检查,书签,完整的 Python API , Goto 功能,即时项目切换,多选择,多窗口等等。Sublime Text 是一个跨平台的编辑器,同时支持Windows、Linux、Mac OS X等操作系统。