《Storm分布式实时计算模式》——3.3　Trident spout-低调大师

《Storm分布式实时计算模式》——3.3　Trident spout

2017-07-02 522

本节书摘来自华章计算机《Storm分布式实时计算模式》一书中的第3章，第3.3节,作者：（美）P. Taylor Goetz　Brian O’Neill 更多章节内容可以访问云栖社区“华章计算机”公众号查看。

3.3　Trident spout

让我们先来看topology中的spout。和Storm相比，Trident引入了“数据批次”（batch）的概念。不像Storm的spout，Trident spout必须成批地发送tuple。
每个batch会分配一个唯一的事务标识符。spout基于约定决定batch的组成方式。spout有三种约定：非事务型（non-transactional）、事务型（transactional）、非透明型（opaque）。
非事务型spout对batch的组成部分不提供保障，并且可能出现重复。两个不同的b

微信关注我们

原文链接：https://yq.aliyun.com/articles/118309

转载内容版权归作者及来源网站所有！

低调大师中文资讯倾力打造互联网数据资讯、行业资源、电子商务、移动互联网、网络营销平台。持续更新报道IT业界、互联网、市场资讯、驱动更新,是最及时权威的产业资讯及硬件资讯报道平台。

应对Hadoop选择困难症四大产品特征值得关注

虽然构成Hadoop生态系统堆栈均为开源技术，但是为使用商业Hadoop平台而支付一定的订阅费用还是大有裨益的。例如，订阅后提供技术支持和培训，而且会开放企业级功能，而这些功能是不向开源社区提供的。虽然厂商Hadoop发行版的企业版本都提供了Hadoop生态系统堆栈的核心组件，但是这些厂商提供的超越公开可访问功能的部分才是其关键优势。最近市场弱化了Hadoop厂商的层级。例如，就在本月，Pivotal Software取消了其自身的Hadoop发行版并宣布会转售Hortonworks作为替代。但是仍有很多不同的厂商需要考虑，包括独立Hadoop专家，云厂商和本文根据几个主要特征将顶级Hadoop发行版进行了区分，帮助你决定哪家Hadoop厂商才是最适合你所在的企业;这些特征包括部署模型，企业级功能，安全性和数据保护功能，以及支持服务。请注意虽然Hadoop大数据管理生态系统是设计来支持可扩展数据存储和高性能分布式计算的，但实际性能可能会因多个原因而有所不同，包括软件的实现。但是很多性能问题都依赖于计划应用程序本身。要解决这一问题，我们将进一步研究Hadoop产品发行版是如何来满...

2017-07-03

580

《Hadoop与大数据挖掘》——2.5　K-Means算法原理及Hadoop MapReduce实现

本节书摘来自华章计算机《Hadoop与大数据挖掘》一书中的第2章，第2.5节，作者张良均樊哲位文超刘名军许国杰周龙焦正升，更多章节内容可以访问云栖社区“华章计算机”公众号查看。 2.5　K-Means算法原理及Hadoop MapReduce实现 2.5.1　K-Means算法原理 K-Means算法是硬聚类算法，是典型的基于原型的目标函数聚类方法的代表。它是将数据点到原型的某种距离作为优化的目标函数，利用函数求极值的方法得到迭代运算的调整规则（如图2-45所示）。K-Means算法以欧氏距离作为相似度测度，求对应某一初始聚类中心向量V最优分类，使得评价指标最小。算法采用误差平方和准则函数作为聚类准则函数。具体的算法步骤如下： 2.5.2　动手实践：K-Means算法实现编写单机版的K-Means算法有利于理解Hadoop实

2017-07-03

529

资源下载

更多资源

优质分享App

近一个月的开发和优化，本站点的第一个app全新上线。该app采用极致压缩，本体才4.36MB。系统里面做了大量数据访问、缓存优化。方便用户在手机上查看文章。后续会推出HarmonyOS的适配版本。

Oracle

Oracle Database，又名Oracle RDBMS，或简称Oracle。是甲骨文公司的一款关系数据库管理系统。它是在数据库领域一直处于领先地位的产品。可以说Oracle数据库系统是目前世界上流行的关系数据库管理系统，系统可移植性好、使用方便、功能强，适用于各类大、中、小、微机环境。它是一种高效率、可靠性好的、适应高吞吐量的数据库方案。

Apache Tomcat

Tomcat是Apache 软件基金会（Apache Software Foundation）的Jakarta 项目中的一个核心项目，由Apache、Sun 和其他一些公司及个人共同开发而成。因为Tomcat 技术先进、性能稳定，而且免费，因而深受Java 爱好者的喜爱并得到了部分软件开发商的认可，成为目前比较流行的Web 应用服务器。

Eclipse

Eclipse 是一个开放源代码的、基于Java的可扩展开发平台。就其本身而言，它只是一个框架和一组服务，用于通过插件组件构建开发环境。幸运的是，Eclipse 附带了一个标准的插件集，包括Java开发工具（Java Development Kit，JDK）。