[重磅来袭] 全平台数据 (数据库) 管理工具 DataCap 1.7.0 发布预告

推荐一个基于SpringBoot开发的全平台数据(数据库管理工具)功能比较完善,建议下载使用: github.com/EdurtIO/datacap 目前已经支持30多种数据源. 国内首个应用ChatGPT到数据管理系统中项目。

在DataCap v1.7.0中我们增加了多种重磅功能。核心抢先看:

  • 集成Apache Seatunnel构建数据集成功能
  • 集成ChatGPT帮助用户更好理解SQL
  • 集成自定义SQL语法,支持多种非SQL数据源

接下来我们一步一步的来体验以上新核心功能:

集成Apache Seatunnel构建数据集成功能

我们通过一个示例来演示datacap系统整合Apache Seatunnel。

首先在datacap中拥有配置的数据源,比如我们有两个数据源:

  • ClickHouse (ID:1)
  • ClickHouse (ID:2)

我们要实现ClickHouse数据摄取到另一个ClickHouse中,在datacap系统中使用一下JSON配置

{
    "from": {
        "id": 1,
        "configures": {
            "database": "default"
        }
    },
    "to":  {
        "id": 2,
        "configures": {
            "database": "default"
        }
    },
    "content": "select database from system.tables",
    "executor": "Seatunnel"
}

此时datacap会根据我们提供数据源的ID进行后台封装组合成Seatunnel中可以解析的配置文件:

{
  "env" : { },
  "source" : {
    "Clickhouse" : {
      "database" : "default",
      "password" : "",
      "host" : "127.0.0.1:8123",
      "sql" : "select database from system.tables",
      "username" : "default"
    }
  },
  "sink" : {
    "ClickHouse" : {
      "database" : "default",
      "password" : "",
      "host" : "127.0.0.1:8124",
      "fields" : ["database"],
      "table" : "test",
      "username" : "default"
    }
  }
}

构建以上JSON配置后,datacap会拉起一个本地shell进程,进行任务执行,可以是本地模式,或者是集群模式。

这是一个简单的示例,比较复杂的示例需要用户各种自定义配置,这里我们只做一个简单示例的演示,复杂示例用户可以自行下载dev分支代码或者下载发版后的1.7.0版本使用

集成ChatGPT帮助用户更好理解SQL

对于集成ChatGPT模块我们提供两种使用方式:

  • 对话模式
  • SQL场景模式

对话模式

在对话模式中,我们不限制用户输入内容,用户可以自行与AI进行各种交互。

SQL场景模式

对于该模式,我们限制用户在查询界面使用,用户可以进行SQL输入后使用ChatGPT进行以下场景分析:

  • 优化SQL

  • 分析SQL

目前我们只提供两种模式,后续会增加更多相关SQL场景 (解放双手,减少SQL编写过程😁😁)

集成自定义SQL语法,支持多种非SQL数据源

datacap系统预设部分SQL语法(目前不是很全面,后续我们会增加更多语法),目前已经支持Zookeeper和Kafka对接,我们使用Kafka来作为一个查询示例:

SHOW TOPICS

通过以上SQL可以看出改语句是列出所有Kafka消息主题,那么它转换为后台代码

client.listTopics()
    .listings()
    .get()
    .forEach(v -> array.add(v.name()));

我们通过SQL语法树解析,然后转换为底层API调用引擎以便获取更多详细数据。

以上就是v1.7.0版本(开发收尾中😂)的一些核心功能点,当然也有其他的功能,如果您想抢先体验,可以克隆源码到本地编译尝试使用。

如果您对我们的项目感兴趣,欢迎贡献源码或fork源码

感谢大家支持。

优秀的个人博客,低调大师

微信关注我们

原文链接:https://www.oschina.net/news/232654/datacap-1-7-0-released

转载内容版权归作者及来源网站所有!

低调大师中文资讯倾力打造互联网数据资讯、行业资源、电子商务、移动互联网、网络营销平台。持续更新报道IT业界、互联网、市场资讯、驱动更新,是最及时权威的产业资讯及硬件资讯报道平台。

相关文章

发表评论

资源下载

更多资源
优质分享Android(本站安卓app)

优质分享Android(本站安卓app)

近一个月的开发和优化,本站点的第一个app全新上线。该app采用极致压缩,本体才4.36MB。系统里面做了大量数据访问、缓存优化。方便用户在手机上查看文章。后续会推出HarmonyOS的适配版本。

Mario,低调大师唯一一个Java游戏作品

Mario,低调大师唯一一个Java游戏作品

马里奥是站在游戏界顶峰的超人气多面角色。马里奥靠吃蘑菇成长,特征是大鼻子、头戴帽子、身穿背带裤,还留着胡子。与他的双胞胎兄弟路易基一起,长年担任任天堂的招牌角色。

Apache Tomcat7、8、9(Java Web服务器)

Apache Tomcat7、8、9(Java Web服务器)

Tomcat是Apache 软件基金会(Apache Software Foundation)的Jakarta 项目中的一个核心项目,由Apache、Sun 和其他一些公司及个人共同开发而成。因为Tomcat 技术先进、性能稳定,而且免费,因而深受Java 爱好者的喜爱并得到了部分软件开发商的认可,成为目前比较流行的Web 应用服务器。

Java Development Kit(Java开发工具)

Java Development Kit(Java开发工具)

JDK是 Java 语言的软件开发工具包,主要用于移动设备、嵌入式设备上的java应用程序。JDK是整个java开发的核心,它包含了JAVA的运行环境(JVM+Java系统类库)和JAVA工具。