《Storm实时数据处理》一2.3　创建日志Spout-低调大师

《Storm实时数据处理》一2.3　创建日志Spout

2017-07-02 578

本节书摘来华章计算机《Storm实时数据处理》一书中的第2章，第2.3节，（澳）Quinton Anderson　著卢誉声　译更多章节内容可以访问云栖社区“华章计算机”公众号查看。

2.3　创建日志Spout

日志Topology通过Redis通道读取所有logstash产生的日志，这些日志数据会通过本章介绍的Spout发送到Topology中。由于这是一个全新的Topology，因此我们先来新建一个Topology项目。

2.3.1　实战

我们先来创建项目目录和标准的Maven目录结构（标准结构可以参考：http://maven.apache.org/guides/introduction/introduction-to-the-standard-directory-layout.html）。

Step01　参照第1章中创建“Hell

微信关注我们

原文链接：https://yq.aliyun.com/articles/118976

转载内容版权归作者及来源网站所有！

低调大师中文资讯倾力打造互联网数据资讯、行业资源、电子商务、移动互联网、网络营销平台。持续更新报道IT业界、互联网、市场资讯、驱动更新,是最及时权威的产业资讯及硬件资讯报道平台。

《Storm企业级应用：实战、运维和调优》——3.11　本章小结

本节书摘来自华章计算机《Storm企业级应用：实战、运维和调优》一书中的第3章，第3.11节,作者：马延辉陈书美雷葆华著，更多章节内容可以访问云栖社区“华章计算机”公众号查看。 3.11　本章小结 Storm使用消息队列传送消息，这就消除了中间的排队过程，使得消息能够直接在任务之间流动。在消息的背后，是一种用于序列化和反序列化原语类型的自动化且高效的机制。Storm的优势是它注重容错和管理。因为Storm实现了有保障的消息处理，所以每个元组都会通过该拓扑结构进行全面处理。如果发现一个元组还未处理，它会自动从Spout重新发送。Storm还实现了任务级的故障检测，在一个任务发生故障时，消息自动重新分配，以快速重新开始处理。Storm包含比Hadoop更智能的处理流程管理，其流程交由监管员来管理，以确保资源得到充分利用。

2017-07-03

575

Esri自2013年发布了GIS tools for Hadoop，正式加入互联网大数据厂商的行列，至今已经3年了。在这3年中风云变幻，业界技术在不断的发生着变更，Esri的大数据战略也在不断的向前推进。在刚刚结束的2016Esri空间信息技术开发者大会上，在IT热点技术专场的《ArcGIS平台下的大数据挖掘》，与往年相比，发生了明显的变化。往年因为Esri自身的原因，将大数据限定在空间大数据这个领域里面。但是今年很明显的发现，在ArcGIS的平台上，已将传统的空间二字去掉，使得平台支持的领域更加广泛。实际上，地理信息发展了这么多年，如果说最能与互联网大数据概念挂钩的，只有LBS（基于位置的服务）数据和遥感影像的数据。这两类数据无论是从体量上，还是从生成速度、数据结构、维度以及价值密度上，都能够与互联网大数据的概念贴合。但是传统的空间分析乃至于空间数据挖掘领域，却更多是在地理空间统计样本上进行分析。而且因为空间数据的特点，诸如空间自相关、空间异质性等空间统计学与传统统计学截然不同的概念，使得很多的分析，无法采用互联网大数据中那些分布式计算的方法来实现。在Esri中国高级咨询师卢萌...

2017-07-03

519

资源下载

更多资源

优质分享App

近一个月的开发和优化，本站点的第一个app全新上线。该app采用极致压缩，本体才4.36MB。系统里面做了大量数据访问、缓存优化。方便用户在手机上查看文章。后续会推出HarmonyOS的适配版本。

Mario

马里奥是站在游戏界顶峰的超人气多面角色。马里奥靠吃蘑菇成长，特征是大鼻子、头戴帽子、身穿背带裤，还留着胡子。与他的双胞胎兄弟路易基一起，长年担任任天堂的招牌角色。

Apache Tomcat

Tomcat是Apache 软件基金会（Apache Software Foundation）的Jakarta 项目中的一个核心项目，由Apache、Sun 和其他一些公司及个人共同开发而成。因为Tomcat 技术先进、性能稳定，而且免费，因而深受Java 爱好者的喜爱并得到了部分软件开发商的认可，成为目前比较流行的Web 应用服务器。

JDK

JDK是 Java 语言的软件开发工具包，主要用于移动设备、嵌入式设备上的java应用程序。JDK是整个java开发的核心，它包含了JAVA的运行环境（JVM+Java系统类库）和JAVA工具。