您现在的位置是:首页 > 文章详情

Jet 4.5 发布,分布式批处理和流处理引擎

日期:2021-04-22点击:471

Jet 是一个开源的、内存中的、分布式批处理和流处理引擎。你可以用它来处理大量的实时事件或大批量的静态数据集。为了给人一种规模感,Jet 的一个节点已经被证明可以每秒聚集1000万个事件,延迟低于10毫秒。

新功能:

  • [sql] 动态 ClassDefinition 消除了在 IMap 中使用新的记录类型时重新启动集群的需要;

增强:

  • [jdbc] 添加了一个选项,用于配置 JDBC Sink 的批处理大小;
  • [sql] 优化了 SQL 聚合的内存占用;
  • [sql] 现在你可以在 SQL 生成器函数中使用表达式了;
  • [核心]从 IMap/ICache 中提取数据可能会由于同时创建过多的分区迭代器而导致 OOME;
  • [核心] 删除了因工作被取消而发生的错误的误导性记录;
  • [pipeline-api] 大大提高了滑动窗口中 pickAny 聚合操作的性能;

修复:

  • [core]Jet 与 Java Logging Framework 的集成导致它无意中从关机 hook 中关闭了 System.out,这将破坏其他关机 hook;
  • [core] 修复了 DAG.toDotString(),以显示正确的队列大小;
  • [sql] CREATE MAPPING 语法有一个漏洞,你可以在同一语句中同时使用 OR REPLACEIF NOT EXISTS
  • [cdc]在 CDC 源中实施已处理的偏移反馈;
  • [extensions] 更新 AWS SDK 版本至 1.11.976;
  • [extensions] 更新 Guava 版本至 30.1;
  • [extensions] 更新 Parquet 版本到 1.12.0;
  • [extensions] 更新 Avro 到 1.10.2;
  • [extensions] 更新 Jetty 版本至 9.4.38.v20210224;
  • [extensions] 更新 wildfly-openssl 到 1;
  • [extensions] 更新 ElasticSearch-6 到 6.8.14;
  • [extensions] 更新 ElasticSearch-7 至 7.10.0;
  • [extensions] 更新 Kafka 版本到 2.2.2;
  • [extensions] 更新 MySql Connector 至 8.0.20;
  • [extensions] 更新 Apache Http Client 至 4.5.13;
  • [extensions] 更新 Netty 至 4.1.61.Final;
  • [extensions] 更新 Snakeyaml 版本至 1.26 [SEC-71];

重大变化:

  • DAG.toDotString(int defaultParallelism) 方法签名现在为 DAG.toDotString(int defaultLocalParallelism, int defaultQueueSize)。调用者现在必须提供队列大小,如果不在边缘上重写,则将被显示。

更多详情可查看:https://github.com/hazelcast/hazelcast-jet/releases/tag/v4.5

原文链接:https://www.oschina.net/news/138724/jet-4-5-released
关注公众号

低调大师中文资讯倾力打造互联网数据资讯、行业资源、电子商务、移动互联网、网络营销平台。

持续更新报道IT业界、互联网、市场资讯、驱动更新,是最及时权威的产业资讯及硬件资讯报道平台。

转载内容版权归作者及来源网站所有,本站原创内容转载请注明来源。

文章评论

共有0条评论来说两句吧...

文章二维码

扫描即可查看该文章

点击排行

推荐阅读

最新文章