Storm概念学习系列之storm的功能和三大应用-低调大师

Storm概念学习系列之storm的功能和三大应用

2017-11-19 551

storm的功能

　　Storm 有许多应用领域：实时分析、在线机器学习、持续计算、分布式 RPC（远过程调用协议，一种通过网络从远程计算机程序上请求服务）、 ETL（Extraction-Transformation-Loading 的缩写，即数据抽取、转换和加载）等。

下面介绍 Storm 的三大主要应用
（1）流处理（ stream processing）
Storm 可用来实时处理新数据和更新数据库，兼具容错性和可扩展性，即 Storm 可以用来处理源源不断流进来的消息，处理之后将结果写入某个存储中。

　（2）持续计算（ continuous computation）
Storm 可进行连续查询并把结果即时反馈给客户端，如把 Twitter 上的热门话题发送到浏览器中。

　　Storm能保证计算可以永久运行，直到用户结束计算进程为止。

　　（3）分布式远程程序调用（ distributed RPC）

　　Storm 可用来并行处理密集查询。 Storm 的拓扑结构是一个等待调用信息的分布函数，当它收到一条调用信息后，会对查询进行计算，并返回查询结果。例如，分布式 RPC 可以做并行搜索或者处理大集合的数据，通过配置DRPC服务器，将 Storm的Topology发布为DRPC服务。客户端程序可以调用DRPC服务将数据发送到 Storm 集群中，并接收处理结果的反馈。这种方式需要DRPC服务器转发，其中 DRPC 服务器底层通过 Thrift 实现。适合的业务场景主要是实时计算，且扩展性良好，可以增加每个节点的 Worker 数量来动态扩展。

　　Storm 绝对是一个相当“有内涵”的系统，能把那么复杂的事情抽象得很完美，能把数学用到极致，这是笔者使用 Storm 实现消息确保被执行一次之后最直接的感觉。例如互联网方向的实时推荐，海量的用户、数据，且需要实时的推荐算法计算，该如何实现？有了 Storm， Spout 从数据源取得数据， Bolt 可以合并，也可以切分数据，最终完成整个业务逻辑处理并输出结果。分分合合，就像河水从曲曲折折的河道一直流向大海一样，所以也称这种数据处理方式为流式计算。

本文转自大数据躺过的坑博客园博客，原文链接：http://www.cnblogs.com/zlslch/p/5989268.html，如需转载请自行联系原作者

微信关注我们

原文链接：https://yq.aliyun.com/articles/370799

转载内容版权归作者及来源网站所有！

低调大师中文资讯倾力打造互联网数据资讯、行业资源、电子商务、移动互联网、网络营销平台。持续更新报道IT业界、互联网、市场资讯、驱动更新,是最及时权威的产业资讯及硬件资讯报道平台。

Storm概念学习系列之Stream消息流和 Stream Grouping 消息流组

Stream消息流是Storm中最关键的抽象，是一个没有边界的Tuple序列。 Stream Grouping 消息流组是用来定义一个流如何分配到Tuple到Bolt。 Stream消息流和Stream Grouping消息流组 Storm核心的抽象概念是“流”。流是一个分布式并行创建和处理的无界的连续元组（Tuple）。流通过给流元组中字段命名来定义。在默认情况下，元组可以包含整型、长整型、短整型、字节、字符串、双精度浮点数、单精度浮点数、布尔型和字节数组。 Stream消息流Stream消息流是Storm中最关键的抽象，是一个没有边界的Tuple序列，这些Tuple以分布式的方式并行地创建和处理。源源不断传递的元组Tuple就组成了流Stream，定义消息流主要是定义消息流中的Tuple。Tuple的定义在前面的博文已经做了详细介绍，本博文不再累述。消息流Tuple中的每个字段都有一个名字，并且不同Tuple对应字段的类型必须相同。两个Tuple的第一个字段的类型必须相同，第二个字段的类型必须相同，但是第一个字段和第二个字段可以有不同的类型。每个消息流在定义时都会分配...

2017-11-20

529

声明：大数据中，最重要的算子操作是：join !!! 典型的transformation和action val nums = sc.parallelize(1 to 10) //根据集合创建RDD map适用于 package com.zhouls.spark.cores import org.apache.spark.{SparkConf, SparkContext} /** * Created by Administrator on 2016/9/27. */ object Transformations { def main(args: Array[String]) { val conf = new SparkConf().setAppName("Transformations").setMaster("local") val sc = new SparkContext(conf) val nums = sc.parallelize(1 to 10) //根据集合创建RDD val mapped = nums.map(item => 2 + item) ...

2017-11-20

723

资源下载

更多资源

优质分享App

近一个月的开发和优化，本站点的第一个app全新上线。该app采用极致压缩，本体才4.36MB。系统里面做了大量数据访问、缓存优化。方便用户在手机上查看文章。后续会推出HarmonyOS的适配版本。

腾讯云软件源

为解决软件依赖安装时官方源访问速度慢的问题，腾讯云为一些软件搭建了缓存服务。您可以通过使用腾讯云软件源站来提升依赖包的安装速度。为了方便用户自由搭建服务架构，目前腾讯云软件源站支持公网访问和内网访问。

Rocky Linux

Rocky Linux（中文名：洛基）是由Gregory Kurtzer于2020年12月发起的企业级Linux发行版，作为CentOS稳定版停止维护后与RHEL（Red Hat Enterprise Linux）完全兼容的开源替代方案，由社区拥有并管理，支持x86_64、aarch64等架构。其通过重新编译RHEL源代码提供长期稳定性，采用模块化包装和SELinux安全架构，默认包含GNOME桌面环境及XFS文件系统，支持十年生命周期更新。

Sublime Text

Sublime Text具有漂亮的用户界面和强大的功能，例如代码缩略图，Python的插件，代码段等。还可自定义键绑定，菜单和工具栏。Sublime Text 的主要功能包括：拼写检查，书签，完整的 Python API ， Goto 功能，即时项目切换，多选择，多窗口等等。Sublime Text 是一个跨平台的编辑器，同时支持Windows、Linux、Mac OS X等操作系统。