2016年杭州第四次spark meetup见闻-低调大师

2016年杭州第四次spark meetup见闻

2016-06-04 724

引言

spark发展非常快，2.0都快要发布了。在不同的城市都会有一些交流聚会，杭州有很多互联网企业，创业的氛围也非常好。大家每隔一段时间的交流还是必须的。不过最好还是时间上密集点，最好重点在于大家讨论，互相交流。
这次是挖财网的时金魁同学主办的，感谢时金魁同学，演讲稿下载链接

期待2.0发布，最近E-MapReduce团队在做benchmark，找时间单独对比下1.6与2.0之间的性能差距。

过程

有4场次的分享，分别为：

《Spark 2.0介绍》来自七牛的陈超
大致介绍了spark2.0的一些新的功能，包括Dataset、Structured Streaming、Tungsten Phase2。记得最清楚就是陈超说：目前Structured Streaming还不成熟，吹了很多牛，大家得等到2.x版本吧，不管怎么搞还是基于batch，

微信关注我们

原文链接：https://yq.aliyun.com/articles/53991

转载内容版权归作者及来源网站所有！

低调大师中文资讯倾力打造互联网数据资讯、行业资源、电子商务、移动互联网、网络营销平台。持续更新报道IT业界、互联网、市场资讯、驱动更新,是最及时权威的产业资讯及硬件资讯报道平台。

Storm Ack框架笔记

Storm利用Acker Bolt节点跟踪消息，当Spout发送出去的消息以及这些消息所衍生出来的消息均被处理后，Spout将受到对应于该消息的Ack。实现要点： 1、Storm中每条发送出去的消息都会对应一个随机的消息ID。 2、Spout发送消息后，将向Acker Bolt发送一条消息，该消息内容为<RootId,消息ID>，Acker bolt将为该消息创建一条跟踪项。 3、Bolt产生要发送的消息时，会计算每条新消息的消息ID，并将消息ID发送至Acker Bolt，Acker Bolt对消息ID进行异或后存储。于是，Storm对新发送的消息进行了跟踪。 4、Blot对输入的消息进行Ack时，也会将该消息ID发送到Acker Bolt,Acker Bolt对每条消息ID进行异或存储，由于该消息在被发送时，已经向Acker Bolt发送过消息ID，之后再被Acker时又再次发送该消息ID。根据异或的语义，这相当于对该消息的跟踪结束。 5、Acker Bolt在更新某一个消息的跟踪值时，若发现其跟踪值变为零，则向Spout节点发送消息，表明Spout发送的这条消息已经被...

2016-06-05

567

Apache HBase是一个高性能、面向列、可伸缩的开源分布式NoSQL数据库，基于google三大论文中的《Bigtable：一个分布式的结构化数据存储系统》，它是Google Bigtable的开源实现。Google Bigtable中文版下载链接用户使用它能够在廉价的PC server上搭建大规模的结构化存储集群；因为Hbase是构建在hadoop之上，具有很好的横向扩展能力。此图来源于cloudera 现有的关系型数据库已经无法在硬件上满足数据疯狂增长的需要；拿之前我做电商商品站外推荐举例，前期因为客户比较少，对接的广告主的商品库比较少，所以我们当时是用mysql来存储广告主的商品信息和商品的变更信息；但是，随着我们的广告主越来越多，对接的商品库也越来越多，尤其是一些大广告主商品库中SKU几百万甚至上千万的情况下，mysql数据库中单表数据超过1亿时，商品信息的查询速度越来越慢。而Hbase一个表可以有数十亿行，上百列。基于具体的业务场景，因为当时我们的业务对于数据存储事务的要求不像金融行业和财务系统这么高，只要保证最终一致性就行。再一个关系型数据库一般都具有强数据...

2016-06-08

705

资源下载

更多资源

优质分享App

近一个月的开发和优化，本站点的第一个app全新上线。该app采用极致压缩，本体才4.36MB。系统里面做了大量数据访问、缓存优化。方便用户在手机上查看文章。后续会推出HarmonyOS的适配版本。

腾讯云软件源

为解决软件依赖安装时官方源访问速度慢的问题，腾讯云为一些软件搭建了缓存服务。您可以通过使用腾讯云软件源站来提升依赖包的安装速度。为了方便用户自由搭建服务架构，目前腾讯云软件源站支持公网访问和内网访问。

Nacos

Nacos /nɑ:kəʊs/ 是 Dynamic Naming and Configuration Service 的首字母简称，一个易于构建 AI Agent 应用的动态服务发现、配置管理和AI智能体管理平台。Nacos 致力于帮助您发现、配置和管理微服务及AI智能体应用。Nacos 提供了一组简单易用的特性集，帮助您快速实现动态服务发现、服务配置、服务元数据、流量管理。Nacos 帮助您更敏捷和容易地构建、交付和管理微服务平台。

Rocky Linux

Rocky Linux（中文名：洛基）是由Gregory Kurtzer于2020年12月发起的企业级Linux发行版，作为CentOS稳定版停止维护后与RHEL（Red Hat Enterprise Linux）完全兼容的开源替代方案，由社区拥有并管理，支持x86_64、aarch64等架构。其通过重新编译RHEL源代码提供长期稳定性，采用模块化包装和SELinux安全架构，默认包含GNOME桌面环境及XFS文件系统，支持十年生命周期更新。