淘宝大数据之路-低调大师

淘宝大数据之路

2016-10-30 582

免费开通大数据服务：https://www.aliyun.com/product/odps

转载yanchun

2003年至今淘宝网从零开始飞速发展，走过了13个年头，支撑淘宝业务野蛮式生长背后是一套不断完善的技术平台，淘宝大数据平台，就是其中非常重要的一个组成部分，承担了数据采集、加工处理、数据应用的职责，淘宝大数据平台一路到今天，总共经历了三个大的阶段（如图1），不同阶段面临了不一样的挑战，随着我的理解回顾下这些年大数据所经历过的故事：

图1 数据仓库平台发展三个阶段

第一个阶段：RAC时代

2008年前的单节点ORACLE，这个时候还称不上数据仓库，只能承担简单的数据处理工作，也基本上没有数据仓库架构，随着业务的飞速发展，很快单节点的ORACLE因无扩展能力，计算存储能力就应付不了了；

2008年之后，为了应对日

微信关注我们

原文链接：https://yq.aliyun.com/articles/62528

转载内容版权归作者及来源网站所有！

低调大师中文资讯倾力打造互联网数据资讯、行业资源、电子商务、移动互联网、网络营销平台。持续更新报道IT业界、互联网、市场资讯、驱动更新,是最及时权威的产业资讯及硬件资讯报道平台。

2016Qcon上海之旅

免费开通大数据服务：https://www.aliyun.com/product/odps 转载wangshen 主要是大数据应用方向早上第一个听了IBM 企业海量数据以及全面云数据服务实践，主要介绍了IBM 云计算的应用场景，主要是介绍IBM 在云数据服务方面的应用，主要是分享了几个客户案例，其中一个是央视的西藏骑行的电视直播，中间涉及物理设备数据采集，背后实时的数据分析，结合地理位置数据，地图以及运动员数据同时支持可视化，提升活动本身的参与性，整体全部基于IBM云服务来做。整个开发周期10天，可见IBM在解决方案级别的能力较强，其次主要介绍了IBM 的云服务。如下：其次就是阿里巴巴的神盾介绍集团的风控平台，整体建设思路和蚂蚁的风控平台类似。这里融合计算概念没有讲的很清楚，其次基于zk 做指标逻辑的动态更新，而

2016-10-31

631

我遇到的问题其实是自己的业务代码的bug导致shuffle时发生了倾斜，groupby操作时大量的key映射到了同一台机器。我自己的bug没有多少参考价值，因为是一个弱智bug，但是由于之前没有这方面的经验，看了日志也不懂发生了什么，在群里请教了木艮同学和Jepson同学，终于找到了问题。稍微写一下发生数据倾斜时的一些日志和监控图表吧，权当参考。问题现象任务日志显示某节点内存超过yarn的限制：xx G，被yarn杀掉。打开webui(:4040/jobs)，打开executor列表，会显示只有一个worker在工作， ![worker_list_data_leaning](https://yqfile.alicdn.com/32b3ee55e135ac608e8ec2ecd0266c09e36c3de6.png) 对应的报错节点的日志： 16/10/31 11:10:18 INFO storage.MemoryStore: Block broadcast_14 stored as values in memory (estimated size 337.4 KB, free...

2016-10-31

728

资源下载

更多资源

优质分享App

近一个月的开发和优化，本站点的第一个app全新上线。该app采用极致压缩，本体才4.36MB。系统里面做了大量数据访问、缓存优化。方便用户在手机上查看文章。后续会推出HarmonyOS的适配版本。

Mario

马里奥是站在游戏界顶峰的超人气多面角色。马里奥靠吃蘑菇成长，特征是大鼻子、头戴帽子、身穿背带裤，还留着胡子。与他的双胞胎兄弟路易基一起，长年担任任天堂的招牌角色。

腾讯云软件源

为解决软件依赖安装时官方源访问速度慢的问题，腾讯云为一些软件搭建了缓存服务。您可以通过使用腾讯云软件源站来提升依赖包的安装速度。为了方便用户自由搭建服务架构，目前腾讯云软件源站支持公网访问和内网访问。

Spring

Spring框架（Spring Framework）是由Rod Johnson于2002年提出的开源Java企业级应用框架，旨在通过使用JavaBean替代传统EJB实现方式降低企业级编程开发的复杂性。该框架基于简单性、可测试性和松耦合性设计理念，提供核心容器、应用上下文、数据访问集成等模块，支持整合Hibernate、Struts等第三方框架，其适用范围不仅限于服务器端开发，绝大多数Java应用均可从中受益。