2016美国QCon思考：通过Quora和Spotify案例，直击数据处理背后的魅影-低调大师

2016美国QCon思考：通过Quora和Spotify案例，直击数据处理背后的魅影

2016-11-09 896 89

编者按：大数据的题目看起来好写，因为大家似乎都懂，但是其实也难写，因为太大了，没有具体的问题很难写出有营养的东西，所以今天选取两个QCon比较典型的例子来管中一窥大数据的魅影。

有的同学很困惑米国人不看知乎怎么知道那么多知识呢？米国人当然看Quora啦，Quora是一个问答社交软件，问答社交的特点就是有各种各样的计数器，比如帖子的支持、反对、评论数量，用户的关注、粉丝数量等等，随着用户量的增加、帖子的增多、以及带来的互动的增长，Quora处理的数据也是爆炸式增长。Quora从第一天开始就长在云上（AWS），生产环境使用MySQL和HBase做存储，使用RefShift和Spark用来做数据分析，在这些组件的基础上Quora做了一个数据服务叫Quanta，Quanta的设计约束是：

A：数据更新之后不能丢失，要求持久化到disk

微信关注我们

原文链接：https://yq.aliyun.com/articles/63149

转载内容版权归作者及来源网站所有！

低调大师中文资讯倾力打造互联网数据资讯、行业资源、电子商务、移动互联网、网络营销平台。持续更新报道IT业界、互联网、市场资讯、驱动更新,是最及时权威的产业资讯及硬件资讯报道平台。

2016-11-10 00:00:00

川普军完美逆袭，阿里大数据为你解读特朗普成功的真相

免费开通大数据服务：https://www.aliyun.com/product/odps 美国大选的结果已经出来了，特朗普击败希拉里成功当选。而在结果出来以前，各方并不看好特朗普，认为他的胜算很小。从博彩网站的赔率就可以看出来，两者之间的赔率很悬殊，希拉里的赔率只有一倍多，而特朗普的赔率最高达九倍，这是认为特朗普几乎不可能赢。结果往往出乎意料，特朗普赢了，庄家们输了。有人测算过，如果希拉里的下注金额不是特朗普5倍以上，庄家们此刻应该已经输得满世界找底裤了。而如果庄家们多关注中国的资讯，或许就不会开这么悬殊的赔率了，甚至都没有必要为这次“已知”结果的大选开盘了。因为，有家公司在几个月前就已经成功预言特朗普将大胜了，结果已经不再是“秘密”。全世界都在猜到底谁赢，公说公有理，婆说婆有理，在网上也是吵得不可开交。这些人里面总有人对的，反正

613

2016-11-10 00:00:00

变而不变：我看分布式系统发展和阿里实践

大数据计算服务(MaxCompute)是一种快速、完全托管的PB/EB级数据仓库解决方案。具备万台服务器扩展能力和跨地域容灾能力，是阿里巴巴内部核心大数据平台，支撑每日百万级作业规模。 MaxCompute向用户提供了完善的数据导入方案以及多种经典的分布式计算模型，能够更快速的解决用户海量数据计算问题，有效降低企业成本，并保障数据安全。相对而言，Reshuffle数据需要落盘，因为Resuffle把多个机器联系起来，出错概率大大增加。但是落盘大大降低了系统的性能，如果只是简单用network的方式来Shuffle数据，则不能容错。而MaxCompute采用Network-Disk的可自适应性的channel来进行Data-Shuffle。在MaxComputeAPI取舍中，二八原则体现得十分明显。流计算用户80%对latency更为

642

资源下载

更多资源

优质分享Android(本站安卓app)

近一个月的开发和优化，本站点的第一个app全新上线。该app采用极致压缩，本体才4.36MB。系统里面做了大量数据访问、缓存优化。方便用户在手机上查看文章。后续会推出HarmonyOS的适配版本。

Apache Tomcat7、8、9（Java Web服务器）

Tomcat是Apache 软件基金会（Apache Software Foundation）的Jakarta 项目中的一个核心项目，由Apache、Sun 和其他一些公司及个人共同开发而成。因为Tomcat 技术先进、性能稳定，而且免费，因而深受Java 爱好者的喜爱并得到了部分软件开发商的认可，成为目前比较流行的Web 应用服务器。

Eclipse（集成开发环境）

Eclipse 是一个开放源代码的、基于Java的可扩展开发平台。就其本身而言，它只是一个框架和一组服务，用于通过插件组件构建开发环境。幸运的是，Eclipse 附带了一个标准的插件集，包括Java开发工具（Java Development Kit，JDK）。

Sublime Text 一个代码编辑器

Sublime Text具有漂亮的用户界面和强大的功能，例如代码缩略图，Python的插件，代码段等。还可自定义键绑定，菜单和工具栏。Sublime Text 的主要功能包括：拼写检查，书签，完整的 Python API ， Goto 功能，即时项目切换，多选择，多窗口等等。Sublime Text 是一个跨平台的编辑器，同时支持Windows、Linux、Mac OS X等操作系统。