Hive 关于merge的几个参数-低调大师

Hive 关于merge的几个参数

2017-11-14 711

hive.mergejob.maponly

hive.merge.mapfiles

hive.merge.mapredfiles

这三个参数是merge以哪种方式的输出文件，以及以哪种方merge.听起来是不是很绕J

hive.merge.mapfiles(defaulttrue)：这个参数是用来控制是否merge MAP-ONLY型Job的文件输出（如果在Hive里设置了支持DP的话，并且涉及到含有DP列的表，如果Hadoop不支持CombineInputFormat，即版本pre-0.20的话那么这个参数和下个参数是不生效的，即都是false）

hive.merge.mapredfiles(defaultfalse)：这个参数是用来控制merge MAP-REDUCE型Job的文件输出

hive.mergejob.maponly(defaulttrue)：这个参数是用来控制是以MAP-ONLY的形式来进行merge（这里有个前提条件就是需要Hadoop支持CombineInputFormat，0.20之前的即使设置了这个参数true也不会生效）或者以MAP-REDUCE的形式来进行merge.不过关于这个参数还有一个未修复的Bug（https://issues.apache.org/jira/browse/HIVE-2869）因此默认值是true

本文转自MIKE老毕 51CTO博客，原文链接：http://blog.51cto.com/boylook/1319296，如需转载请自行联系原作者

微信关注我们

原文链接：https://yq.aliyun.com/articles/476804

转载内容版权归作者及来源网站所有！

低调大师中文资讯倾力打造互联网数据资讯、行业资源、电子商务、移动互联网、网络营销平台。持续更新报道IT业界、互联网、市场资讯、驱动更新,是最及时权威的产业资讯及硬件资讯报道平台。

linux系统slab内存占用

今天遇见了一个问题，发现一台系统为redhat 5.8的跑storm的机器内存报警，然后跟了一下，发现系统内存耗尽了，但是通过top或者ps命令看到所有应用或系统进程内存占用率总和不到10%。 [@storm-yd8325 ~]# free -m total used free shared buffers cached Mem: 64416 61273 3142 0 419 2597 -/+ buffers/cache: 58256 6159 Swap: 8189 0 8189 那50多G的内存哪去了呢？下面我们来分析一下。 1，查看了/proc/meminfo文件它记录系统内存的分配使用信息的内核文件 [@storm-yd8325 ~]# cat /proc/meminfo MemTotal: 65962124 kB MemFree: 3229264 kB Buffers: 429596 kB Cached: 2658648 kB SwapCached: 0 kB Active: 12872252 kB Inactive: 661388 kB HighTotal: 0 kB H...

2017-11-15

613

一、相关参数： 1、core-site.xml 文件修改以下配置项： 1 2 3 4 5 <property> <name>fs.trash.interval< /name > <value>2880< /value > <description>HDFS垃圾箱设置，可以恢复误删除，配置的值为分钟数，0为禁用< /description > < /property > 2、hdfs-default.xml 文件注意以下配置项： 1 2 3 4 5 <property> <name>dfs.ha.log-roll.period< /name > <value>120< /value > <description>EditLog日志滚动频率，单位为秒，默认是两分钟< /description > < /property > 二、分析过程 1、找到editlog日志所在目录查看hdfs-s...

2017-11-15

681

资源下载

更多资源

Mario

马里奥是站在游戏界顶峰的超人气多面角色。马里奥靠吃蘑菇成长，特征是大鼻子、头戴帽子、身穿背带裤，还留着胡子。与他的双胞胎兄弟路易基一起，长年担任任天堂的招牌角色。

Spring

Spring框架（Spring Framework）是由Rod Johnson于2002年提出的开源Java企业级应用框架，旨在通过使用JavaBean替代传统EJB实现方式降低企业级编程开发的复杂性。该框架基于简单性、可测试性和松耦合性设计理念，提供核心容器、应用上下文、数据访问集成等模块，支持整合Hibernate、Struts等第三方框架，其适用范围不仅限于服务器端开发，绝大多数Java应用均可从中受益。

Rocky Linux

Rocky Linux（中文名：洛基）是由Gregory Kurtzer于2020年12月发起的企业级Linux发行版，作为CentOS稳定版停止维护后与RHEL（Red Hat Enterprise Linux）完全兼容的开源替代方案，由社区拥有并管理，支持x86_64、aarch64等架构。其通过重新编译RHEL源代码提供长期稳定性，采用模块化包装和SELinux安全架构，默认包含GNOME桌面环境及XFS文件系统，支持十年生命周期更新。

Sublime Text

Sublime Text具有漂亮的用户界面和强大的功能，例如代码缩略图，Python的插件，代码段等。还可自定义键绑定，菜单和工具栏。Sublime Text 的主要功能包括：拼写检查，书签，完整的 Python API ， Goto 功能，即时项目切换，多选择，多窗口等等。Sublime Text 是一个跨平台的编辑器，同时支持Windows、Linux、Mac OS X等操作系统。