首次公开！单日600PB的计算力--阿里巴巴EB级大数据平台的进击
作者：阿里巴巴计算平台 高级技术专家 迎辉
MaxCompute作为阿里巴巴的主力计算平台，在2018年的双11中，再次不负众望，经受住了双11期间海量数据和高并发量的考验。为集团的各条业务线提供了强劲的计算力，不愧是为阿里巴巴历年双11输送超级计算力的核武器。
本文为大家介绍，MaxCompute基于多集群部署的几万台服务器，如何为集团急剧增长的业务提供护航和保障。
挑战
每年的双11之前，也是MaxCompute各种乾坤大挪移落定的时候，因为双11就是各种大折腾项目的自然deadline。在今年双11之前，一路向北迁移和在离线混部项目，将杭州集群除蚂蚁外整体迁移到张北，涉及了绝大部分的业务project、数据存储和计算任务，为今年双十一大数据计算服务的保障带来了挑战。
体量
现在MaxCompute包括在离线混部集群在内有几万台服务器，
关注公众号
低调大师中文资讯倾力打造互联网数据资讯、行业资源、电子商务、移动互联网、网络营销平台。
持续更新报道IT业界、互联网、市场资讯、驱动更新,是最及时权威的产业资讯及硬件资讯报道平台。
转载内容版权归作者及来源网站所有，本站原创内容转载请注明来源。
-
上一篇
Hive优化相关设置
参数 hive.optimize.cp=true：列裁剪 hive.optimize.prunner：分区裁剪 hive.limit.optimize.enable=true：优化LIMIT n语句 hive.limit.row.max.size=1000000： hive.limit.optimize.limit.file=10：最大文件数 1. 本地模式(小任务)： 需要满足以下条件：1.job的输入数据大小必须小于参数：hive.exec.mode.local.auto.inputbytes.max(默认128MB)2.job的map数必须小于参数：hive.exec.mode.local.auto.tasks.max(默认4)3.job的reduce数必须为0或者1 hive.exec.mode.local.auto.inputbytes.max=134217728 hive.exec.mode.local.auto.tasks.max=4 hive.exec.mode.local.auto=true hive.mapred.local.mem：本地模式启动的JVM内存大小 2...
-
下一篇
《叶问》第4期
2018年7月4日，周三 如何优化Linux操作系统用于MySQL环境？ 一、初级玩法 1、在BIOS及内核层面关闭NUMA 2、在BIOS层面将CPU、内存均设置最大性能模式 3、 在BIOS层面关闭CPU节能模式 4、修改IO Scheduler为deadline 或 noop 5、使用xfs文件系统，挂载选项noatime、nodiratime、nobarrier 6、在内核层面设置vm.swappiness<=5，vm.dirty_ratio<=10， vm.dirty_background_rati<=5 7、在内核层面修改用户可最大打开文件数和线程数为65535 8、禁用SWAP分区 二、高端玩法 1、使用最新稳定Linux发行版 2、升级各个硬件设备到最新稳定firmware版本 3、 使用SSD时，开启TRIM功能，并且可以的话文件系统block size和SSD对齐 4、 当磁盘I/O存在瓶颈时，除了常规因素外，还需要关注中断不均衡的可能性 2018年7月5日，周四 MySQL 8.0 InnoDB哪些新特性你最期待，为什么？ 1、数据字典全部采用I...
相关文章
文章评论
共有0条评论来说两句吧...
微信收款码
支付宝收款码