Flink Weekly | 每周社区动态更新

Flink Weekly | 每周社区动态更新 - 20200318

2020-03-22 658

大家好，本文为 Flink Weekly 的第九期，由沈磊（LakeShen）整理，主要内容包括：近期社区开发进展，邮件问题答疑以及 Flink 最新社区动态及本周社区直播内容、技术文章推荐。

Flink 开发进展

■ [Table API & SQL] Jingsong Li 发起 FLIP-115 的讨论，主要在 Flink Table 支持 FileSystem Connector,FLIP-115 主要内容包括：

在 Flink Table 中支持 FileSystem Table Factory，同时支持csv/parquet/orc/json/avro 格式。
支持在流应用或者 Flink On Hive 中数据输出。

■ [RunTime / Configuration] Andrey 发起 FLIP-116 统一的 JobManager 的内存配置的讨论，在 FLIP-49中，我们针对 TaskManager 进行统一的内存管理和配置，在 Flink 1.10 版本中 release 该功能。为了让 JobManager 的内存模型和配置保持对齐，同时针对用户代码 native non-direct memory 的使用，在FLIP-116 中都进行了详细说明。更多信息请参考：

[3] https://cwiki.apache.org/confluence/display/FLINK/FLIP-49%3A+Unified+Memory+Configuration+for+TaskExecutors
[4] https://cwiki.apache.org/confluence/display/FLINK/FLIP+116%3A+Unified+Memory+Configuration+for+Job+Managers
[5] https://ci.apache.org/projects/flink/flink-docs-release-1.10/ops/memory/mem_detail.html#overview

■ [Connectors / HBase] Flavio 发起了 FLIP-117 HBase Catalog的讨论，该 FLIP 主要讨论 HBaseCatalog 的实现。更多信息参考：

[6] https://cwiki.apache.org/confluence/display/FLINK/FLIP-117%3A+HBase+catalog

[7] https://issues.apache.org/jira/browse/FLINK-16575

■ Yu Li 发起了 Releasing Flink 1.10.1 的相关讨论。

[8] http://apache-flink-mailing-list-archive.1008284.n3.nabble.com/DISCUSS-Releasing-Flink-1-10-1-td38689.html

■ 为了让大家了解到 Flink 1.11 的相关特性，Zhijiang 发起了 Flink 1.11 特性的讨论，大家有什么想法或者期待可以在下面邮件中进行相关回复。

[9] http://apache-flink-mailing-list-archive.1008284.n3.nabble.com/DISCUSS-Features-of-Apache-Flink-1-11-td38724.html#a38793

邮件问题答疑

■ shravan 社区提问：当 k8s 集群突然 down 掉时，如何优雅的通过 stop with savepoint 停止作业，Vijay 进行了解答。

[10] http://apache-flink-user-mailing-list-archive.2336050.n4.nabble.com/Stop-job-with-savepoint-during-graceful-shutdown-on-a-k8s-cluster-td33626.html

■ Alexander 使用 Flink 1.10 ，对于 Mesos 容器内存配置方面遇到一些问题，Yangze Guo进行了详细解答。

[11] http://apache-flink-user-mailing-list-archive.2336050.n4.nabble.com/Flink-1-10-container-memory-configuration-with-Mesos-td33594.html

■ wanglei2 询问了在 Flink SQL 任务中，如何设置状态后端,以及在 SQL Client 中，维表 Join 任务没有运行问题。Jingsong Li 和 Zhenghua Gao 分别进行了详细的回答。

[12] http://apache-flink-user-mailing-list-archive.2336050.n4.nabble.com/How-to-set-stateBackEnd-in-flink-sql-program-td33590.html

[13] http://apache-flink-user-mailing-list-archive.2336050.n4.nabble.com/dimention-table-join-not-work-under-sql-client-fink-1-10-0-td33616.html

■ Yuval 提问了关于 Flink 如何从增量的 Checkpoint 状态回复的一些问题，Andrey 进行了详细的解答。

[14] http://apache-flink-user-mailing-list-archive.2336050.n4.nabble.com/Restoring-state-from-an-incremental-RocksDB-checkpoint-td33630.html

■ Eyal 遇到了一些 Flink On Yarn 方面的日志打印配置问题，社区同学进行了解答。

[15] http://apache-flink-user-mailing-list-archive.2336050.n4.nabble.com/Setting-app-Flink-logger-td33537.html

■ Flavio 在社区提问了关于 Alink 和 Flink ML 的问题，感兴趣的可以看一下。

[16] http://apache-flink-user-mailing-list-archive.2336050.n4.nabble.com/Alink-and-Flink-ML-td33332.html

■ LakeShen 询问了关于从 Checkppoint 状态文件恢复，是否能够改变算子的并发的问题。对于 Checkpoint 的状态文件，当任务从其开始恢复时，可以调整算法的并发度，只要不要修改算子最大的并发度就行。

[17] http://apache-flink-user-mailing-list-archive.2336050.n4.nabble.com/Cancel-the-flink-task-and-restore-from-checkpoint-can-I-change-the-flink-operator-s-parallelism-td33613.html

■ karl 在社区提问了关于 Flink Session 窗口的状态 TTL 问题。

[18] http://apache-flink-user-mailing-list-archive.2336050.n4.nabble.com/Flink-Session-Windows-State-TTL-td33349.html

活动 / 博客文章 / 其他

■ SQL 开发任务超 50%，滴滴实时计算的演进和优化

■ Flink 如何支持特征工程、在线学习、在线预测等 AI 场景？

■ 一行配置作业性能提升53%！Flink SQL 性能之旅

■ 有赞实时任务优化：Flink Checkpoint 异常解析与应用实践

■ Flink 中文社区进行了【1.10 特别篇】系列直播：《PyFlink 架构、应用案例及未来规划》，由 Apache Flink PMC，阿里巴巴高级技术专家孙金城分享。

公众号后台回复关键字「PyFlink」可获取嘉宾分享 PPT。
直播回顾：https://ververica.cn/developers/flink-training-course3/

2 分钟快速订阅 Flink 中文邮件列表

Apache Flink 中文邮件列表订阅流程：

发送任意邮件到 user-zh-subscribe@flink.apache.org
收到官方确认邮件
回复该邮件 confirm 即可订阅

订阅成功后将收到 Flink 官方的中文邮件列表的消息，您可以向 user-zh@flink.apache.org 发邮件提问也可以帮助别人解答问题，动动手测试一下！

Tips：

Flink Weekly 周报计划每周更新一期，内容涵盖邮件列表中用户问题的解答、社区开发和提议的进展、社区新闻以及其他活动、博客文章等，欢迎持续关注～

作者介绍：

沈磊（LakeShen），目前在有赞负责实时平台、以及 Flink 相关开发和维护工作。积极参与 Flink 开源社区，喜欢和大家分享 Flink 技术，个人也写了很多 Flink 相关技术文章，帮助大家一起学习 Flink。

微信关注我们

原文链接：https://yq.aliyun.com/articles/751088

转载内容版权归作者及来源网站所有！

低调大师中文资讯倾力打造互联网数据资讯、行业资源、电子商务、移动互联网、网络营销平台。持续更新报道IT业界、互联网、市场资讯、驱动更新,是最及时权威的产业资讯及硬件资讯报道平台。

如何在 Flink 中规划 RocksDB 内存容量？

作者：Stefan Richter翻译：毛家琦校对：胡争本文描述了一些配置选项，这些选项将帮助您有效地管理规划 Apache Flink 中 RocksDB state backend 的内存大小。在前面的文章[1]中，我们描述了 Flink 中支持的可选 state backend 选项，本文将介绍跟 Flink 相关的一些 RocksDB 操作，并讨论一些提高资源利用率的重要配置。 Tips：从 Flink 1.10 开始，Flink 自动管理 RocksDB 的内存，详细介绍如下： https://ci.apache.org/projects/flink/flink-docs-release-1.10/ops/state/state_backends.html#memory-management RocksDB 的状态后端在深入了解配置参数之前，先回顾一下在 Apache Flink 中如何使用 RocksDB 来进行状态管理。当选择 RocksDB 作为状态后端时，状态将作为序列化字节串存在于堆外内存（off-heap) 存储或本地磁盘中。 RocksDB 是一个以日志合并...

2020-03-23

634

云栖号资讯：【点击查看更多行业资讯】在这里您可以找到不同行业的第一手的上云资讯，还在等什么，快来！最新消息，阿里达摩院又有新的研究进展，这次在自动驾驶3D物体检测领域。达摩院的研究人员提出一个通用、高性能的检测器，在自动驾驶领域权威数据集KITTI BEV(鸟瞰)上，检测速度达到25FPS ，一举占据榜首，与排名第二的方案相比，减少了一半多，同时精度也远超其他的单阶段检测器。可以说首次实现3D物体检测精度与速度兼得。达摩院研究团队表示：“检测器是自动驾驶系统的核心组件之一，但该领域一直缺少创新和突破，此次我们实现3D检测精度和速度的提升，将有助于提高自动驾驶系统的安全性。” 从实验结果来看，他们显然取得了良好进展，而且研究的主要完成人员（一作），还是达摩院的实习生。同时，该研究也得到了同行们的认可，被计算机视觉领域顶级会议CVPR 2020收录。他们是如何做到的呢？我们借助阿里达摩院提供的解读，一一来看。如何实现精度和速度兼得？众所周知，与普通2D图像识别应用不同，自动驾驶系统对精度和速度的要求更高，不仅需要快速识别周围环境的物体，还要对物体在三维空间中的位置做精准定位。 ...

2020-03-23

572

资源下载

更多资源

Oracle

Oracle Database，又名Oracle RDBMS，或简称Oracle。是甲骨文公司的一款关系数据库管理系统。它是在数据库领域一直处于领先地位的产品。可以说Oracle数据库系统是目前世界上流行的关系数据库管理系统，系统可移植性好、使用方便、功能强，适用于各类大、中、小、微机环境。它是一种高效率、可靠性好的、适应高吞吐量的数据库方案。

Eclipse

Eclipse 是一个开放源代码的、基于Java的可扩展开发平台。就其本身而言，它只是一个框架和一组服务，用于通过插件组件构建开发环境。幸运的是，Eclipse 附带了一个标准的插件集，包括Java开发工具（Java Development Kit，JDK）。

JDK

JDK是 Java 语言的软件开发工具包，主要用于移动设备、嵌入式设备上的java应用程序。JDK是整个java开发的核心，它包含了JAVA的运行环境（JVM+Java系统类库）和JAVA工具。

Sublime Text

Sublime Text具有漂亮的用户界面和强大的功能，例如代码缩略图，Python的插件，代码段等。还可自定义键绑定，菜单和工具栏。Sublime Text 的主要功能包括：拼写检查，书签，完整的 Python API ， Goto 功能，即时项目切换，多选择，多窗口等等。Sublime Text 是一个跨平台的编辑器，同时支持Windows、Linux、Mac OS X等操作系统。