是时候放弃 Spark Streaming, 转向 Structured Streaming 了-低调大师

是时候放弃 Spark Streaming, 转向 Structured Streaming 了

2019-02-19 727

正如在之前的那篇文章中 Spark Streaming 设计原理中说到 Spark 团队之后对 Spark Streaming 的维护可能越来越少，Spark 2.4 版本的 Release Note 里面果然一个 Spark Streaming 相关的 ticket 都没有。相比之下，Structured Streaming 有将近十个 ticket 说明。所以各位同学，是时候舍弃 Spark Streaming 转向 Structured Streaming 了，当然理由并不止于此。我们这篇文章就来分析一下 Spark Streaming 的不足，以及Structured Streaming 的设计初衷和思想是怎么样的。文章主要参考今年（2018 年）sigmod 上面的这篇论文： *Structured Streaming

微信关注我们

原文链接：https://yq.aliyun.com/articles/690913

转载内容版权归作者及来源网站所有！

低调大师中文资讯倾力打造互联网数据资讯、行业资源、电子商务、移动互联网、网络营销平台。持续更新报道IT业界、互联网、市场资讯、驱动更新,是最及时权威的产业资讯及硬件资讯报道平台。

hadoop搭建之HBase安装

本文搭建环境： centos6.9jdk1.8.0_201 hadoop-2.7.2 本文搭建HBase环境hbase-1.2.4 zookeeper-3.4.9 1、下载安装包hbase-1.2.4 zookeeper-3.4.9 ZooKeeper是一个分布式的，开放源码的分布式应用程序协调服务，是Google的Chubby一个开源的实现，是Hadoop和Hbase的重要组件 ZooKeeper相当于hadoop中yarn，但是它的单独安装 2、将下载好的安装包（个人使用WinSCP）导入opt下的software目录下 3、解压ZooKeeper，并重命名为 zookeeper tar -zvxf /opt/software/zookeeper-3.4.9.tar.gz -C /opt/modules/ 4、在hadoop安装目录下新建zookeeper/data目录，在data目录下新建myid文件，输入一个数字（c1 为 1，c2 为 2，c2 为 3【c2，c3为复制之后的文件，见第6步】） 5、修改配置文件 zoo.cfg zoo.cfg是没有的，需要将文件目录下：opt...

2019-02-20

708

Analytics Zoo 是由 Intel 开源,基于 Apache Spark 和 Inte BigDL 的大数据分析和 AI 平台，方便用户开发基于大数据、端到端的深度学习应用。本文简单介绍了如何在阿里云 E-MapReduce 使用 Analytics Zoo 来进行深度学习。简介 Analytics Zoo是由 Intel 开源，基于Apache Spark 和 Inte BigDL 的大数据分析和AI平台，方便用户开发基于大数据、端到端的深度学习应用。系统要求 JDK 8 Spark 集群(推荐使用EMR支持的 Spark 2.x) python-2.7(python 3.5，3.6 也支持)，pip 安装Analytics Zoo Analytics Zoo 最新的 release 版本是 0.2.0 安装Scala 下载 pre-

2019-02-20

697

资源下载

更多资源

优质分享App

近一个月的开发和优化，本站点的第一个app全新上线。该app采用极致压缩，本体才4.36MB。系统里面做了大量数据访问、缓存优化。方便用户在手机上查看文章。后续会推出HarmonyOS的适配版本。

Mario

马里奥是站在游戏界顶峰的超人气多面角色。马里奥靠吃蘑菇成长，特征是大鼻子、头戴帽子、身穿背带裤，还留着胡子。与他的双胞胎兄弟路易基一起，长年担任任天堂的招牌角色。

腾讯云软件源

为解决软件依赖安装时官方源访问速度慢的问题，腾讯云为一些软件搭建了缓存服务。您可以通过使用腾讯云软件源站来提升依赖包的安装速度。为了方便用户自由搭建服务架构，目前腾讯云软件源站支持公网访问和内网访问。

Sublime Text

Sublime Text具有漂亮的用户界面和强大的功能，例如代码缩略图，Python的插件，代码段等。还可自定义键绑定，菜单和工具栏。Sublime Text 的主要功能包括：拼写检查，书签，完整的 Python API ， Goto 功能，即时项目切换，多选择，多窗口等等。Sublime Text 是一个跨平台的编辑器，同时支持Windows、Linux、Mac OS X等操作系统。