MaxCompute小文件问题优化方案

2018-12-19 718

小文件背景知识

小文件定义

分布式文件系统按块Block存放，文件大小比块大小小的文件（默认块大小为64M），叫做小文件。

如何判断存在小文件数量多的问题

查看文件数量

desc extended + 表名

判断小文件数量多的标准

1、非分区表，表文件数达到1000个，文件平均大小小于64M
2、分区表: a) 单个分区文件数达到1000个，文件平均大小小于64M，
b) 整个非分区表分区数达到五万（系统限制为6万）

产生小文件数量多的主要原因

1、表设计不合理导致：分区多导致文件多，比如按天按小时按业务单元（假如有6个业务单元BU）分区，那么一年下来，分区数将会达到365246=52560。
2、在使用Tunnel、Datahub、Console等数据集成工具上传上传数据时，频繁Commit，写入表（表分区）使用不合理

微信关注我们

原文链接：https://yq.aliyun.com/articles/680815

转载内容版权归作者及来源网站所有！

低调大师中文资讯倾力打造互联网数据资讯、行业资源、电子商务、移动互联网、网络营销平台。持续更新报道IT业界、互联网、市场资讯、驱动更新,是最及时权威的产业资讯及硬件资讯报道平台。

HBase进化之从NoSQL到NewSQL，凤凰涅槃成就Phoenix

一、背景概述近些年来，数据爆炸或者大数据成为IT行业发展的高频词汇，传统单机数据库处理数据能力的瓶颈成为摆在IT工程师面前十分常见且亟待解决的问题。单机硬件存储容量和计算力的增长远远赶不上数据的增长。在单机软件中，数据库是数据相关处理技术的集大成者，集合了数据存储、数据实时读写、在线事务和数据分析等技术，并通过主备、多活等方案保证了可靠性。但是，在实际业务场景中，我们往往并没有同时用到所有数据库提供的能力，这也为我们解决业务中实际遇到的大数据难题提供了解决思路。当前的大数据系统大多是通过分布式原理，重点解决某个方面或者某些方面的困境和难题，比如HDFS解决了大数据存储的问题，MapReduce解决了大数据量复杂分析和计算的难题，HBase解决了实时读写的问题。下面笔者将介绍HBase从解决实时读写问题出发，逐步进化，从NoSQL发

2018-12-20

628

).阿里巴巴，腾讯，美团，爱奇艺，字节跳动（抖音，头条），等一线公司上万台flink机器应用 ).一线公司已升级大数据计算引擎Flink ).公布阿里巴巴将于2019年1月左右推出阿里的flink版本批流一体计算，包括阿里在Flink中的一些升级操作 Apache Flink Forward china 2018: https://github.com/opensourceteams/flink-forward-china-2018 【apache flink forward china 2018】主会场【主会场01-Craig Russell】Apache Flink: 践行 Apache 之道：https://files.alicdn.com/tpsservice/b40e46ca0abcef3e3f12f7fe12c46f0a.pdf 【主会场02-周靖人】云上计算普惠科技：https://files.alicdn.com/tpsservice/9a90a15cc2666348aa7e2fef4846eea7.pdf 【主会场03-蒋晓伟】Apache Flink® - Re...

2018-12-21

662

资源下载

更多资源

Nacos

Nacos /nɑ:kəʊs/ 是 Dynamic Naming and Configuration Service 的首字母简称，一个易于构建 AI Agent 应用的动态服务发现、配置管理和AI智能体管理平台。Nacos 致力于帮助您发现、配置和管理微服务及AI智能体应用。Nacos 提供了一组简单易用的特性集，帮助您快速实现动态服务发现、服务配置、服务元数据、流量管理。Nacos 帮助您更敏捷和容易地构建、交付和管理微服务平台。

Spring

Spring框架（Spring Framework）是由Rod Johnson于2002年提出的开源Java企业级应用框架，旨在通过使用JavaBean替代传统EJB实现方式降低企业级编程开发的复杂性。该框架基于简单性、可测试性和松耦合性设计理念，提供核心容器、应用上下文、数据访问集成等模块，支持整合Hibernate、Struts等第三方框架，其适用范围不仅限于服务器端开发，绝大多数Java应用均可从中受益。

Rocky Linux

Rocky Linux（中文名：洛基）是由Gregory Kurtzer于2020年12月发起的企业级Linux发行版，作为CentOS稳定版停止维护后与RHEL（Red Hat Enterprise Linux）完全兼容的开源替代方案，由社区拥有并管理，支持x86_64、aarch64等架构。其通过重新编译RHEL源代码提供长期稳定性，采用模块化包装和SELinux安全架构，默认包含GNOME桌面环境及XFS文件系统，支持十年生命周期更新。

Sublime Text

Sublime Text具有漂亮的用户界面和强大的功能，例如代码缩略图，Python的插件，代码段等。还可自定义键绑定，菜单和工具栏。Sublime Text 的主要功能包括：拼写检查，书签，完整的 Python API ， Goto 功能，即时项目切换，多选择，多窗口等等。Sublime Text 是一个跨平台的编辑器，同时支持Windows、Linux、Mac OS X等操作系统。