《Storm实时数据处理》一2.1　简介-低调大师

《Storm实时数据处理》一2.1　简介

2017-07-02 556

本节书摘来华章计算机《Storm实时数据处理》一书中的第2章，第2.1节，（澳）Quinton Anderson　著卢誉声　译更多章节内容可以访问云栖社区“华章计算机”公众号查看。

2.1　简介

本章将会展示一个企业日志存储系统的实现方法，以及一个基于Storm处理系统的搜索分析解决方案。其实日志数据处理已经不再是一个需要解决的问题了，但它依然能够帮助我们加深理解这些新概念。
数据流处理在现代企业中是一个主要的架构关注点。但通常情况下，最理想的数据流也只是半结构化的。本章展示了一个企业日志的处理方案，目的是为了让读者学习了解各种重要概念，获得处理各种类型数据的能力。由于日志数据量庞大，因此日志数据也为学术研究提供了极大的便利。对于任何流处理或分析工作来说，其成功的关键都在于深入理解实际数据和获取数据这两项因素上，而这往往非常困难。
因

微信关注我们

原文链接：https://yq.aliyun.com/articles/118958

转载内容版权归作者及来源网站所有！

低调大师中文资讯倾力打造互联网数据资讯、行业资源、电子商务、移动互联网、网络营销平台。持续更新报道IT业界、互联网、市场资讯、驱动更新,是最及时权威的产业资讯及硬件资讯报道平台。

《Storm企业级应用：实战、运维和调优》——3.5　Stream消息流和Stream Grouping消息流组

本节书摘来自华章计算机《Storm企业级应用：实战、运维和调优》一书中的第3章，第3.5节,作者：马延辉陈书美雷葆华著，更多章节内容可以访问云栖社区“华章计算机”公众号查看。 3.5　Stream消息流和Stream Grouping消息流组 Storm核心的抽象概念是“流”。流是一个分布式并行创建和处理的无界的连续元组（Tuple）。流通过给流元组中字段命名来定义。在默认情况下，元组可以包含整型、长整型、短整型、字节、字符串、双精度浮点数、单精度浮点数、布尔型和字节数组。3.5.1　Stream消息流消息流是Storm中最关键的抽象，是一个没有边界的Tuple序列，这些Tuple以分布式的方式并行地创建和处理。定义消息流主要是定义消息流中的Tuple。Tuple的定义在3.1节已经做了详细介绍，本章节不再累述。消息流Tuple

2017-07-03

586

本节书摘来自华章计算机《Storm企业级应用：实战、运维和调优》一书中的第3章，第3.6节,作者：马延辉陈书美雷葆华著，更多章节内容可以访问云栖社区“华章计算机”公众号查看。 3.6　Task任务 Task是运行Spout或Bolt的单元，每一个Spout/Bolt的线程称为一个Task。在Storm 0.8及之后的版本中，Task不再与物理线程对应，同一个Spout/Bolt的Task可能会共享一个物理线程，该线程称为Executor。实际的数据处理由Task完成，在Topology的生命周期中，每个组件的Task数量不会变化，而Executor的数量却不一定。在一般情况下，线程数小于等于Task数量。默认Task的数量等于Executor线程数量，即一个Executor线程只运行一个Task。Executor线程在执行期间会

2017-07-03

543

资源下载

更多资源

优质分享App

近一个月的开发和优化，本站点的第一个app全新上线。该app采用极致压缩，本体才4.36MB。系统里面做了大量数据访问、缓存优化。方便用户在手机上查看文章。后续会推出HarmonyOS的适配版本。

Mario

马里奥是站在游戏界顶峰的超人气多面角色。马里奥靠吃蘑菇成长，特征是大鼻子、头戴帽子、身穿背带裤，还留着胡子。与他的双胞胎兄弟路易基一起，长年担任任天堂的招牌角色。

Apache Tomcat

Tomcat是Apache 软件基金会（Apache Software Foundation）的Jakarta 项目中的一个核心项目，由Apache、Sun 和其他一些公司及个人共同开发而成。因为Tomcat 技术先进、性能稳定，而且免费，因而深受Java 爱好者的喜爱并得到了部分软件开发商的认可，成为目前比较流行的Web 应用服务器。

Eclipse

Eclipse 是一个开放源代码的、基于Java的可扩展开发平台。就其本身而言，它只是一个框架和一组服务，用于通过插件组件构建开发环境。幸运的是，Eclipse 附带了一个标准的插件集，包括Java开发工具（Java Development Kit，JDK）。