MaxCompute小文件问题优化方案

2018-12-19 703

小文件背景知识

小文件定义

分布式文件系统按块Block存放，文件大小比块大小小的文件（默认块大小为64M），叫做小文件。

如何判断存在小文件数量多的问题

查看文件数量

desc extended + 表名

判断小文件数量多的标准

1、非分区表，表文件数达到1000个，文件平均大小小于64M
2、分区表: a) 单个分区文件数达到1000个，文件平均大小小于64M，
b) 整个非分区表分区数达到五万（系统限制为6万）

产生小文件数量多的主要原因

1、表设计不合理导致：分区多导致文件多，比如按天按小时按业务单元（假如有6个业务单元BU）分区，那么一年下来，分区数将会达到365246=52560。
2、在使用Tunnel、Datahub、Console等数据集成工具上传上传数据时，频繁Commit，写入表（表分区）使用不合理

微信关注我们

原文链接：https://yq.aliyun.com/articles/680815

转载内容版权归作者及来源网站所有！

低调大师中文资讯倾力打造互联网数据资讯、行业资源、电子商务、移动互联网、网络营销平台。持续更新报道IT业界、互联网、市场资讯、驱动更新,是最及时权威的产业资讯及硬件资讯报道平台。

HBase进化之从NoSQL到NewSQL，凤凰涅槃成就Phoenix

一、背景概述近些年来，数据爆炸或者大数据成为IT行业发展的高频词汇，传统单机数据库处理数据能力的瓶颈成为摆在IT工程师面前十分常见且亟待解决的问题。单机硬件存储容量和计算力的增长远远赶不上数据的增长。在单机软件中，数据库是数据相关处理技术的集大成者，集合了数据存储、数据实时读写、在线事务和数据分析等技术，并通过主备、多活等方案保证了可靠性。但是，在实际业务场景中，我们往往并没有同时用到所有数据库提供的能力，这也为我们解决业务中实际遇到的大数据难题提供了解决思路。当前的大数据系统大多是通过分布式原理，重点解决某个方面或者某些方面的困境和难题，比如HDFS解决了大数据存储的问题，MapReduce解决了大数据量复杂分析和计算的难题，HBase解决了实时读写的问题。下面笔者将介绍HBase从解决实时读写问题出发，逐步进化，从NoSQL发

2018-12-20

611

).阿里巴巴，腾讯，美团，爱奇艺，字节跳动（抖音，头条），等一线公司上万台flink机器应用 ).一线公司已升级大数据计算引擎Flink ).公布阿里巴巴将于2019年1月左右推出阿里的flink版本批流一体计算，包括阿里在Flink中的一些升级操作 Apache Flink Forward china 2018: https://github.com/opensourceteams/flink-forward-china-2018 【apache flink forward china 2018】主会场【主会场01-Craig Russell】Apache Flink: 践行 Apache 之道：https://files.alicdn.com/tpsservice/b40e46ca0abcef3e3f12f7fe12c46f0a.pdf 【主会场02-周靖人】云上计算普惠科技：https://files.alicdn.com/tpsservice/9a90a15cc2666348aa7e2fef4846eea7.pdf 【主会场03-蒋晓伟】Apache Flink® - Re...

2018-12-21

639

资源下载

更多资源

优质分享App

近一个月的开发和优化，本站点的第一个app全新上线。该app采用极致压缩，本体才4.36MB。系统里面做了大量数据访问、缓存优化。方便用户在手机上查看文章。后续会推出HarmonyOS的适配版本。

Oracle

Oracle Database，又名Oracle RDBMS，或简称Oracle。是甲骨文公司的一款关系数据库管理系统。它是在数据库领域一直处于领先地位的产品。可以说Oracle数据库系统是目前世界上流行的关系数据库管理系统，系统可移植性好、使用方便、功能强，适用于各类大、中、小、微机环境。它是一种高效率、可靠性好的、适应高吞吐量的数据库方案。

Apache Tomcat

Tomcat是Apache 软件基金会（Apache Software Foundation）的Jakarta 项目中的一个核心项目，由Apache、Sun 和其他一些公司及个人共同开发而成。因为Tomcat 技术先进、性能稳定，而且免费，因而深受Java 爱好者的喜爱并得到了部分软件开发商的认可，成为目前比较流行的Web 应用服务器。

JDK

JDK是 Java 语言的软件开发工具包，主要用于移动设备、嵌入式设备上的java应用程序。JDK是整个java开发的核心，它包含了JAVA的运行环境（JVM+Java系统类库）和JAVA工具。