淘宝大数据之路-低调大师

淘宝大数据之路

2016-10-30 567 89

免费开通大数据服务：https://www.aliyun.com/product/odps

转载yanchun

2003年至今淘宝网从零开始飞速发展，走过了13个年头，支撑淘宝业务野蛮式生长背后是一套不断完善的技术平台，淘宝大数据平台，就是其中非常重要的一个组成部分，承担了数据采集、加工处理、数据应用的职责，淘宝大数据平台一路到今天，总共经历了三个大的阶段（如图1），不同阶段面临了不一样的挑战，随着我的理解回顾下这些年大数据所经历过的故事：

图1 数据仓库平台发展三个阶段

第一个阶段：RAC时代

2008年前的单节点ORACLE，这个时候还称不上数据仓库，只能承担简单的数据处理工作，也基本上没有数据仓库架构，随着业务的飞速发展，很快单节点的ORACLE因无扩展能力，计算存储能力就应付不了了；

2008年之后，为了应对日

微信关注我们

原文链接：https://yq.aliyun.com/articles/62528

转载内容版权归作者及来源网站所有！

低调大师中文资讯倾力打造互联网数据资讯、行业资源、电子商务、移动互联网、网络营销平台。持续更新报道IT业界、互联网、市场资讯、驱动更新,是最及时权威的产业资讯及硬件资讯报道平台。

2016-10-31 00:00:00

2016Qcon上海之旅

免费开通大数据服务：https://www.aliyun.com/product/odps 转载wangshen 主要是大数据应用方向早上第一个听了IBM 企业海量数据以及全面云数据服务实践，主要介绍了IBM 云计算的应用场景，主要是介绍IBM 在云数据服务方面的应用，主要是分享了几个客户案例，其中一个是央视的西藏骑行的电视直播，中间涉及物理设备数据采集，背后实时的数据分析，结合地理位置数据，地图以及运动员数据同时支持可视化，提升活动本身的参与性，整体全部基于IBM云服务来做。整个开发周期10天，可见IBM在解决方案级别的能力较强，其次主要介绍了IBM 的云服务。如下：其次就是阿里巴巴的神盾介绍集团的风控平台，整体建设思路和蚂蚁的风控平台类似。这里融合计算概念没有讲的很清楚，其次基于zk 做指标逻辑的动态更新，而

619

2016-10-31 00:00:00

spark 数据倾斜的一些表现

我遇到的问题其实是自己的业务代码的bug导致shuffle时发生了倾斜，groupby操作时大量的key映射到了同一台机器。我自己的bug没有多少参考价值，因为是一个弱智bug，但是由于之前没有这方面的经验，看了日志也不懂发生了什么，在群里请教了木艮同学和Jepson同学，终于找到了问题。稍微写一下发生数据倾斜时的一些日志和监控图表吧，权当参考。问题现象任务日志显示某节点内存超过yarn的限制：xx G，被yarn杀掉。打开webui(:4040/jobs)，打开executor列表，会显示只有一个worker在工作， ![worker_list_data_leaning](https://yqfile.alicdn.com/32b3ee55e135ac608e8ec2ecd0266c09e36c3de6.png) 对应的报错节点的日志： 16/10/31 11:10:18 INFO storage.MemoryStore: Block broadcast_14 stored as values in memory (estimated size 337.4 KB, free...

712

资源下载

更多资源

优质分享Android(本站安卓app)

近一个月的开发和优化，本站点的第一个app全新上线。该app采用极致压缩，本体才4.36MB。系统里面做了大量数据访问、缓存优化。方便用户在手机上查看文章。后续会推出HarmonyOS的适配版本。

Oracle Database，又名Oracle RDBMS

Oracle Database，又名Oracle RDBMS，或简称Oracle。是甲骨文公司的一款关系数据库管理系统。它是在数据库领域一直处于领先地位的产品。可以说Oracle数据库系统是目前世界上流行的关系数据库管理系统，系统可移植性好、使用方便、功能强，适用于各类大、中、小、微机环境。它是一种高效率、可靠性好的、适应高吞吐量的数据库方案。

Eclipse（集成开发环境）

Eclipse 是一个开放源代码的、基于Java的可扩展开发平台。就其本身而言，它只是一个框架和一组服务，用于通过插件组件构建开发环境。幸运的是，Eclipse 附带了一个标准的插件集，包括Java开发工具（Java Development Kit，JDK）。

Sublime Text 一个代码编辑器

Sublime Text具有漂亮的用户界面和强大的功能，例如代码缩略图，Python的插件，代码段等。还可自定义键绑定，菜单和工具栏。Sublime Text 的主要功能包括：拼写检查，书签，完整的 Python API ， Goto 功能，即时项目切换，多选择，多窗口等等。Sublime Text 是一个跨平台的编辑器，同时支持Windows、Linux、Mac OS X等操作系统。