2016美国QCon思考：通过Quora和Spotify案例，直击数据处理背后的魅影-低调大师

2016美国QCon思考：通过Quora和Spotify案例，直击数据处理背后的魅影

2016-11-09 916

编者按：大数据的题目看起来好写，因为大家似乎都懂，但是其实也难写，因为太大了，没有具体的问题很难写出有营养的东西，所以今天选取两个QCon比较典型的例子来管中一窥大数据的魅影。

有的同学很困惑米国人不看知乎怎么知道那么多知识呢？米国人当然看Quora啦，Quora是一个问答社交软件，问答社交的特点就是有各种各样的计数器，比如帖子的支持、反对、评论数量，用户的关注、粉丝数量等等，随着用户量的增加、帖子的增多、以及带来的互动的增长，Quora处理的数据也是爆炸式增长。Quora从第一天开始就长在云上（AWS），生产环境使用MySQL和HBase做存储，使用RefShift和Spark用来做数据分析，在这些组件的基础上Quora做了一个数据服务叫Quanta，Quanta的设计约束是：

A：数据更新之后不能丢失，要求持久化到disk

微信关注我们

原文链接：https://yq.aliyun.com/articles/63149

转载内容版权归作者及来源网站所有！

低调大师中文资讯倾力打造互联网数据资讯、行业资源、电子商务、移动互联网、网络营销平台。持续更新报道IT业界、互联网、市场资讯、驱动更新,是最及时权威的产业资讯及硬件资讯报道平台。

川普军完美逆袭，阿里大数据为你解读特朗普成功的真相

免费开通大数据服务：https://www.aliyun.com/product/odps 美国大选的结果已经出来了，特朗普击败希拉里成功当选。而在结果出来以前，各方并不看好特朗普，认为他的胜算很小。从博彩网站的赔率就可以看出来，两者之间的赔率很悬殊，希拉里的赔率只有一倍多，而特朗普的赔率最高达九倍，这是认为特朗普几乎不可能赢。结果往往出乎意料，特朗普赢了，庄家们输了。有人测算过，如果希拉里的下注金额不是特朗普5倍以上，庄家们此刻应该已经输得满世界找底裤了。而如果庄家们多关注中国的资讯，或许就不会开这么悬殊的赔率了，甚至都没有必要为这次“已知”结果的大选开盘了。因为，有家公司在几个月前就已经成功预言特朗普将大胜了，结果已经不再是“秘密”。全世界都在猜到底谁赢，公说公有理，婆说婆有理，在网上也是吵得不可开交。这些人里面总有人对的，反正

2016-11-10

630

大数据计算服务(MaxCompute)是一种快速、完全托管的PB/EB级数据仓库解决方案。具备万台服务器扩展能力和跨地域容灾能力，是阿里巴巴内部核心大数据平台，支撑每日百万级作业规模。 MaxCompute向用户提供了完善的数据导入方案以及多种经典的分布式计算模型，能够更快速的解决用户海量数据计算问题，有效降低企业成本，并保障数据安全。相对而言，Reshuffle数据需要落盘，因为Resuffle把多个机器联系起来，出错概率大大增加。但是落盘大大降低了系统的性能，如果只是简单用network的方式来Shuffle数据，则不能容错。而MaxCompute采用Network-Disk的可自适应性的channel来进行Data-Shuffle。在MaxComputeAPI取舍中，二八原则体现得十分明显。流计算用户80%对latency更为

2016-11-10

654

资源下载

更多资源

优质分享App

近一个月的开发和优化，本站点的第一个app全新上线。该app采用极致压缩，本体才4.36MB。系统里面做了大量数据访问、缓存优化。方便用户在手机上查看文章。后续会推出HarmonyOS的适配版本。

腾讯云软件源

为解决软件依赖安装时官方源访问速度慢的问题，腾讯云为一些软件搭建了缓存服务。您可以通过使用腾讯云软件源站来提升依赖包的安装速度。为了方便用户自由搭建服务架构，目前腾讯云软件源站支持公网访问和内网访问。

Nacos

Nacos /nɑ:kəʊs/ 是 Dynamic Naming and Configuration Service 的首字母简称，一个易于构建 AI Agent 应用的动态服务发现、配置管理和AI智能体管理平台。Nacos 致力于帮助您发现、配置和管理微服务及AI智能体应用。Nacos 提供了一组简单易用的特性集，帮助您快速实现动态服务发现、服务配置、服务元数据、流量管理。Nacos 帮助您更敏捷和容易地构建、交付和管理微服务平台。

Rocky Linux

Rocky Linux（中文名：洛基）是由Gregory Kurtzer于2020年12月发起的企业级Linux发行版，作为CentOS稳定版停止维护后与RHEL（Red Hat Enterprise Linux）完全兼容的开源替代方案，由社区拥有并管理，支持x86_64、aarch64等架构。其通过重新编译RHEL源代码提供长期稳定性，采用模块化包装和SELinux安全架构，默认包含GNOME桌面环境及XFS文件系统，支持十年生命周期更新。