Flink Weekly | 每周社区动态更新 - 20200313
作者:张成
大家好,本文为 Flink Weekly 的第八期,由张成整理,主要内容包括:近期社区开发进展,邮件问题答疑以及 Flink 最新社区动态及本周社区直播内容推荐。
Flink 开发进展
■ Yangze Guo 在 FLIP-108 中建议 Flink 支持对 GPU 的资源管理。
■ 从 Flink 1.10.0 开始,Apache Flink 项目开始维护 Flink Docker。
■ Arvid 更新了 FLIP-76(Unaligned Checkpoints),并希望尽快进行投票。
■ Tison 提议改变 flink-streaming-java 的依赖结构。
■ Arvid 建议启动一个 Flink 开发者博客,这个博客涵盖当前正在做或者即将要做的工作。该提案已收到其他提交者的许多积极反馈。
[5] https://cwiki.apache.org/confluence/display/FLINK/Apache+Flink+Home
[6] http://apache-flink-mailing-list-archive.1008284.n3.nabble.com/Flink-dev-blog-tp38316p38344.html
■ Dawid 建议在 “CREATE TABLE” 语句中支持 “LIKE”。这样 Flink SQL 可以轻松地调整/扩展现有表。这个随着 Flink 增加对更多外部系统的支持,变得越来越相关。(SchemaRegistry,HiveCatalog,JDBCCatalog 等)。
■ FLIP-58 在 SQL 和 Table API 中引入了 Python UDF。FLIP-79 在 Flink SQL 中添加了 Function DDL,以便在 SQL 中注册 Java 和 Scala UDF。
基于这两个 FLIP,Wei Zhon 发布了 FLIP-106 在 SQL Function DDL 中支持 Python UDF。
邮件问题答疑
■ Jark Wu 正在统计使用 CDC 的工具,有兴趣的同学可以去围观。
[9] http://apache-flink.147419.n8.nabble.com/SURVEY-CDC-td1910.html
■ 目前 Flink SQL 尚不支持 CREATE TABLE 自动从 format 或 schema 服务中推断出字段信息。
[11] https://issues.apache.org/jira/browse/FLINK-16420
■ 目前 Flink SQL 尚不支持 SHOW CREATE TABLE,感兴趣的可以跟进 FLINK-16384。
■ 目前在 Flink SQL 中使用 tumbling window 求 topn 暂时不支持,Jark Wu 在邮件中进行了详细的解答。
■ pkuvisdudu 对 Flink 内存类型提出了相关疑问,Xintong Song 在邮件中进行了详细的解释。
[14] http://apache-flink.147419.n8.nabble.com/Flink-td1869.html
■ Flink SQL 将 group 聚合的数据写入到 HBase 表报 primary keys 问题,由 Jark Wu 进行了详细解答。
[15] http://apache-flink.147419.n8.nabble.com/Flink-SQL-group-HBase-primary-keys-td1877.html
■ 小旋锋提问 flink elasticsearch sink 如何能不丢数据?Jark Wu 进行了详细的回答,有兴趣的可以查阅。
[16] http://apache-flink.147419.n8.nabble.com/flink-elasticsearch-sink-td1862.html
■ sunfulin 遇到了在 SQL 中使用 UDF 同时开启 checkpoint,会导致任务报错。
■ 王博迪在邮件中提到如何进行问题咨询。英文交流邮箱是 user@flink.apache.org,中文交流邮箱是 user-zh@flink.apache.org。
[18] http://apache-flink.147419.n8.nabble.com/Development-related-problems-consultation-td1821.html
■ 用户的任务大约 6 天挂一次,看日志定位为 checkpoint 失败导致。
[19] http://apache-flink.147419.n8.nabble.com/flink-td1871.html
■ nicygan 想以 per-job 的方式在 Yarn 上面提交 Flink 任务报错,Tison 在邮件列表中进行了详细的解答。
[20] http://apache-flink.147419.n8.nabble.com/jobGroph-pre-job-yarn-td1859.html
活动 / 博客文章 / 其他
■ 袋鼠云技术公司 DTStack 最近在 flink-packages.org 上发布了 FlinkX。
FlinkX 基于 Apache Flink,能够实现某些数据源之间的相互导入。
[21] https://flink-packages.org/packages/flinkx
■ Flink 中文社区进行了实时数仓系列直播。
- 利用 Flink 实现实时超时统计场景,由菜鸟高级数据工程师马汶园分享
- 利用 Flink 实现实时状态复用场景,由菜鸟数据工程师李晨分享
直播回顾:
https://ververica.cn/developers/flink-training-course3/
2 分钟快速订阅 Flink 中文邮件列表
Apache Flink 中文邮件列表订阅流程:
- 发送任意邮件到 user-zh-subscribe@flink.apache.org
- 收到官方确认邮件
- 回复该邮件 confirm 即可订阅
订阅成功后将收到 Flink 官方的中文邮件列表的消息,您可以向 user-zh@flink.apache.org 发邮件提问也可以帮助别人解答问题,动动手测试一下!
Tips:
Flink Weekly 周报计划每周更新一期,内容涵盖邮件列表中用户问题的解答、社区开发和提议的进展、社区新闻以及其他活动、博客文章等,欢迎持续关注~
作者介绍:
张成,小红书技术部基础平台开发工程师,目前主要在做基于 Flink 的实时计算平台开发。

低调大师中文资讯倾力打造互联网数据资讯、行业资源、电子商务、移动互联网、网络营销平台。
持续更新报道IT业界、互联网、市场资讯、驱动更新,是最及时权威的产业资讯及硬件资讯报道平台。
转载内容版权归作者及来源网站所有,本站原创内容转载请注明来源。
- 上一篇
Gitee 项目拓扑图 —— 密集恐惧症患者谨慎进入
公司里有那么多人,那么多项目,那么多仓库,还有几个部门。他们之间的关系是怎样的? 晕不晕? 我们换一种方式来展示这些对象之间的关系: 是不是更晕了? 这就是典型的密集恐惧症啊! 这是开源中国的项目拓扑图,我们公司一百多号人,七百多个仓库,看起来就是密密麻麻如蜘蛛网般。 点击其中一个项目(如下图),这回要舒服多了吧? 这就是 Gitee 企业版新的小特性 —— 项目拓扑图,通过图的方式来展示项目、团队、成员、仓库之间的逻辑关系。 你可以进入 Gitee 企业版 -> 项目 -> 项目拓扑图 查看。 更多 Gitee 企业版特性请前往:https://gitee.com/enterprises
- 下一篇
阿里巴巴副总裁肖力:云原生安全下看企业新边界——身份管理
作者 |kirazhou 导读:在 10000 多公里之外的旧金山,网络安全盛会 RSAC2020 已经落下了帷幕。而身处杭州的肖力,正在谈起今年大会的主题——Human Element。2020 年,从“人”出发,这颗石子将在国内的安全市场池子里激起怎样的涟漪?Human Element 的背后隐藏着怎样的安全洞见? 在 Gartner 的《2020 年规划指南:身份和访问管理》报告中,我们看到了 IT 必须推进 IAM(身份和访问管理)计划,而身份治理和管理、混合/多云环境作为可预见的趋势,更是已经在风口蓄势待发。 人、身份和云端,这三者之间的角力、千丝万缕和无限可能,正是此次采访的最大收获。 Human Element:了解人的脆弱性 我们常常谈起,“安全的本质在于人与人之间的对抗。” 从攻防对抗的视角来看,人的因素使得攻防对抗成为一
相关文章
文章评论
共有0条评论来说两句吧...
文章二维码
点击排行
推荐阅读
最新文章
- CentOS7,CentOS8安装Elasticsearch6.8.6
- CentOS关闭SELinux安全模块
- Docker快速安装Oracle11G,搭建oracle11g学习环境
- Docker使用Oracle官方镜像安装(12C,18C,19C)
- Springboot2将连接池hikari替换为druid,体验最强大的数据库连接池
- CentOS6,7,8上安装Nginx,支持https2.0的开启
- CentOS8安装MyCat,轻松搞定数据库的读写分离、垂直分库、水平分库
- CentOS6,CentOS7官方镜像安装Oracle11G
- Docker安装Oracle12C,快速搭建Oracle学习环境
- SpringBoot2整合MyBatis,连接MySql数据库做增删改查操作