2016年杭州第四次spark meetup见闻-低调大师

2016年杭州第四次spark meetup见闻

2016-06-04 707 89

引言

spark发展非常快，2.0都快要发布了。在不同的城市都会有一些交流聚会，杭州有很多互联网企业，创业的氛围也非常好。大家每隔一段时间的交流还是必须的。不过最好还是时间上密集点，最好重点在于大家讨论，互相交流。
这次是挖财网的时金魁同学主办的，感谢时金魁同学，演讲稿下载链接

期待2.0发布，最近E-MapReduce团队在做benchmark，找时间单独对比下1.6与2.0之间的性能差距。

过程

有4场次的分享，分别为：

《Spark 2.0介绍》来自七牛的陈超
大致介绍了spark2.0的一些新的功能，包括Dataset、Structured Streaming、Tungsten Phase2。记得最清楚就是陈超说：目前Structured Streaming还不成熟，吹了很多牛，大家得等到2.x版本吧，不管怎么搞还是基于batch，

微信关注我们

原文链接：https://yq.aliyun.com/articles/53991

转载内容版权归作者及来源网站所有！

低调大师中文资讯倾力打造互联网数据资讯、行业资源、电子商务、移动互联网、网络营销平台。持续更新报道IT业界、互联网、市场资讯、驱动更新,是最及时权威的产业资讯及硬件资讯报道平台。

Storm Ack框架笔记

Storm利用Acker Bolt节点跟踪消息，当Spout发送出去的消息以及这些消息所衍生出来的消息均被处理后，Spout将受到对应于该消息的Ack。实现要点： 1、Storm中每条发送出去的消息都会对应一个随机的消息ID。 2、Spout发送消息后，将向Acker Bolt发送一条消息，该消息内容为<RootId,消息ID>，Acker bolt将为该消息创建一条跟踪项。 3、Bolt产生要发送的消息时，会计算每条新消息的消息ID，并将消息ID发送至Acker Bolt，Acker Bolt对消息ID进行异或后存储。于是，Storm对新发送的消息进行了跟踪。 4、Blot对输入的消息进行Ack时，也会将该消息ID发送到Acker Bolt,Acker Bolt对每条消息ID进行异或存储，由于该消息在被发送时，已经向Acker Bolt发送过消息ID，之后再被Acker时又再次发送该消息ID。根据异或的语义，这相当于对该消息的跟踪结束。 5、Acker Bolt在更新某一个消息的跟踪值时，若发现其跟踪值变为零，则向Spout节点发送消息，表明Spout发送的这条消息已经被...

540

那么问题来了：我们为什么要选择 Hbase？

Apache HBase是一个高性能、面向列、可伸缩的开源分布式NoSQL数据库，基于google三大论文中的《Bigtable：一个分布式的结构化数据存储系统》，它是Google Bigtable的开源实现。Google Bigtable中文版下载链接用户使用它能够在廉价的PC server上搭建大规模的结构化存储集群；因为Hbase是构建在hadoop之上，具有很好的横向扩展能力。此图来源于cloudera 现有的关系型数据库已经无法在硬件上满足数据疯狂增长的需要；拿之前我做电商商品站外推荐举例，前期因为客户比较少，对接的广告主的商品库比较少，所以我们当时是用mysql来存储广告主的商品信息和商品的变更信息；但是，随着我们的广告主越来越多，对接的商品库也越来越多，尤其是一些大广告主商品库中SKU几百万甚至上千万的情况下，mysql数据库中单表数据超过1亿时，商品信息的查询速度越来越慢。而Hbase一个表可以有数十亿行，上百列。基于具体的业务场景，因为当时我们的业务对于数据存储事务的要求不像金融行业和财务系统这么高，只要保证最终一致性就行。再一个关系型数据库一般都具有强数据...

684

资源下载

更多资源

优质分享Android(本站安卓app)

近一个月的开发和优化，本站点的第一个app全新上线。该app采用极致压缩，本体才4.36MB。系统里面做了大量数据访问、缓存优化。方便用户在手机上查看文章。后续会推出HarmonyOS的适配版本。

Mario，低调大师唯一一个Java游戏作品

马里奥是站在游戏界顶峰的超人气多面角色。马里奥靠吃蘑菇成长，特征是大鼻子、头戴帽子、身穿背带裤，还留着胡子。与他的双胞胎兄弟路易基一起，长年担任任天堂的招牌角色。

Oracle Database，又名Oracle RDBMS

Oracle Database，又名Oracle RDBMS，或简称Oracle。是甲骨文公司的一款关系数据库管理系统。它是在数据库领域一直处于领先地位的产品。可以说Oracle数据库系统是目前世界上流行的关系数据库管理系统，系统可移植性好、使用方便、功能强，适用于各类大、中、小、微机环境。它是一种高效率、可靠性好的、适应高吞吐量的数据库方案。

Apache Tomcat7、8、9（Java Web服务器）

Tomcat是Apache 软件基金会（Apache Software Foundation）的Jakarta 项目中的一个核心项目，由Apache、Sun 和其他一些公司及个人共同开发而成。因为Tomcat 技术先进、性能稳定，而且免费，因而深受Java 爱好者的喜爱并得到了部分软件开发商的认可，成为目前比较流行的Web 应用服务器。