Apache Beam 2.28.0 发布，大数据流处理与批处理编程范式-低调大师

Apache Beam 2.28.0 发布，大数据流处理与批处理编程范式

2021-02-25 613

Apache Beam 2.28.0 已发布，Beam 是一个用于定义和执行数据处理管道的统一编程模型，包括 ETL、批处理与流处理。Beam 项目重点在于数据处理的编程范式和接口定义，并不涉及具体执行引擎的实现，理想情况是基于 Beam 开发的数据处理程序可以执行在任意的分布式计算引擎上。

更新亮点

与 Parquet 支持相关的大量改进（BEAM-11460, BEAM-8202 和 BEAM-11526）
BeamSQL 中的哈希函数 (BEAM-10074)
ZetaSQL 中的哈希函数 (BEAM-11624)
使用 HLL Impl 创建 ApproximateDistinct (BEAM-10324)

I/Os

SpannerIO 支持面向 Numeric 字段使用 BigDecimal (BEAM-11643)

将 Beam schema 支持添加到 ParquetIO (BEAM-11526)
支持 ParquetTable Writer (BEAM-8202)
GCP BigQuery sink (streaming inserts) 使用 runner 已确定的分片 (BEAM-11408)
PubSub 支持类型：TIMESTAMP, DATE, TIME, DATETIME (BEAM-11533)

新特性/改进

ParquetIO 添加 readGenericRecords 和 readFilesGenericRecords 方法可以读取具有未知 schema 的文件。详情查看 PR-13554 和 (BEAM-11460)
添加对 KafkaTableProvider 中 thrift 的支持 (BEAM-11482)
添加对 HadoopFormatIO 的支持以跳过 key/value 克隆 (BEAM-11457)
在 Convert.to 转换中支持转换为 GenericRecords (BEAM-11571)
支持读取未知 schema 的 Parquet 文件 (BEAM-11460)

发布公告

微信关注我们

原文链接：https://www.oschina.net/news/131188/beam-2-28-0-released

转载内容版权归作者及来源网站所有！

低调大师中文资讯倾力打造互联网数据资讯、行业资源、电子商务、移动互联网、网络营销平台。持续更新报道IT业界、互联网、市场资讯、驱动更新,是最及时权威的产业资讯及硬件资讯报道平台。

Kali Linux 2021.1 发布，可选 Command Not Found 工具

Kali Linux 2021.1 正式发布，这是 2021 年度的第一个 Kali Linux 版本更新。该版本对现有功能进行了增强，你可以点击此处下载，如果您已经安装了 Kali Linux 则可以点击这个链接升级。自 2020.4 版本以来的变更日志摘要为： Xfce 4.16 —— 我们首选和当前的默认桌面环境已更新和调整 KDE 5.20 —— Plasma 也获得了版本提升 Terminals —— mate-terminal、terminator和tilix都进行了优化 Command Not Found —— 这是一个“可选”的程序包，查找没有被找到的命令与更多工具的作者建立伙伴关系 —— BC Security 和 Joohoi 一直在开发出色的工具，我们希望为他们提供支持新工具和更新 —— Kali 已添加了多个新工具，随时可以为您服务 Kali NetHunter —— 新的 BusyBox & Rucky 版本，以及启动动画 Kali ARM —— 对 Apple Silicon（Apple M1）的 Parallels 和 Raspberry P...

2021-02-26

760

NetBox 是一个 IP 地址管理（IP address management，IPAM）和数据中心基础设施管理（data center infrastructure management，DCIM）工具。 Netbox2.10.5 现已完成发布，具体更新内容如下： Bug 修复＃5315-修复使用"None"选项时从 VLAN 中取消站点分配的问题＃5626-修复用于连接到非接口端点的电路终端的 REST API 表示形式＃5716-修复通过自定义字段过滤 rack reservations的问题＃5718-修复未定义端口时对服务的批量编辑的问题＃5735-确保对重复 IP 地址进行一致处理＃5738-修复 disconnecting a cable 后重定向到设备组件视图的问题＃5753-修复 Redis Sentinel 密码应用的缓存问题＃5786-允许通过 REST API 在 tenant 上设置null tenant group ＃5841-禁止违反分配的权限限制创建可用的 prefixes/IP地址更新说明：https://github.com/ne...

2021-02-26

696

资源下载

更多资源

优质分享App

近一个月的开发和优化，本站点的第一个app全新上线。该app采用极致压缩，本体才4.36MB。系统里面做了大量数据访问、缓存优化。方便用户在手机上查看文章。后续会推出HarmonyOS的适配版本。

腾讯云软件源

为解决软件依赖安装时官方源访问速度慢的问题，腾讯云为一些软件搭建了缓存服务。您可以通过使用腾讯云软件源站来提升依赖包的安装速度。为了方便用户自由搭建服务架构，目前腾讯云软件源站支持公网访问和内网访问。

Spring

Spring框架（Spring Framework）是由Rod Johnson于2002年提出的开源Java企业级应用框架，旨在通过使用JavaBean替代传统EJB实现方式降低企业级编程开发的复杂性。该框架基于简单性、可测试性和松耦合性设计理念，提供核心容器、应用上下文、数据访问集成等模块，支持整合Hibernate、Struts等第三方框架，其适用范围不仅限于服务器端开发，绝大多数Java应用均可从中受益。

Sublime Text

Sublime Text具有漂亮的用户界面和强大的功能，例如代码缩略图，Python的插件，代码段等。还可自定义键绑定，菜单和工具栏。Sublime Text 的主要功能包括：拼写检查，书签，完整的 Python API ， Goto 功能，即时项目切换，多选择，多窗口等等。Sublime Text 是一个跨平台的编辑器，同时支持Windows、Linux、Mac OS X等操作系统。