Hive 关于merge的几个参数-低调大师

Hive 关于merge的几个参数

2017-11-14 686

hive.mergejob.maponly

hive.merge.mapfiles

hive.merge.mapredfiles

这三个参数是merge以哪种方式的输出文件，以及以哪种方merge.听起来是不是很绕J

hive.merge.mapfiles(defaulttrue)：这个参数是用来控制是否merge MAP-ONLY型Job的文件输出（如果在Hive里设置了支持DP的话，并且涉及到含有DP列的表，如果Hadoop不支持CombineInputFormat，即版本pre-0.20的话那么这个参数和下个参数是不生效的，即都是false）

hive.merge.mapredfiles(defaultfalse)：这个参数是用来控制merge MAP-REDUCE型Job的文件输出

hive.mergejob.maponly(defaulttrue)：这个参数是用来控制是以MAP-ONLY的形式来进行merge（这里有个前提条件就是需要Hadoop支持CombineInputFormat，0.20之前的即使设置了这个参数true也不会生效）或者以MAP-REDUCE的形式来进行merge.不过关于这个参数还有一个未修复的Bug（https://issues.apache.org/jira/browse/HIVE-2869）因此默认值是true

本文转自MIKE老毕 51CTO博客，原文链接：http://blog.51cto.com/boylook/1319296，如需转载请自行联系原作者

微信关注我们

原文链接：https://yq.aliyun.com/articles/476804

转载内容版权归作者及来源网站所有！

低调大师中文资讯倾力打造互联网数据资讯、行业资源、电子商务、移动互联网、网络营销平台。持续更新报道IT业界、互联网、市场资讯、驱动更新,是最及时权威的产业资讯及硬件资讯报道平台。

linux系统slab内存占用

今天遇见了一个问题，发现一台系统为redhat 5.8的跑storm的机器内存报警，然后跟了一下，发现系统内存耗尽了，但是通过top或者ps命令看到所有应用或系统进程内存占用率总和不到10%。 [@storm-yd8325 ~]# free -m total used free shared buffers cached Mem: 64416 61273 3142 0 419 2597 -/+ buffers/cache: 58256 6159 Swap: 8189 0 8189 那50多G的内存哪去了呢？下面我们来分析一下。 1，查看了/proc/meminfo文件它记录系统内存的分配使用信息的内核文件 [@storm-yd8325 ~]# cat /proc/meminfo MemTotal: 65962124 kB MemFree: 3229264 kB Buffers: 429596 kB Cached: 2658648 kB SwapCached: 0 kB Active: 12872252 kB Inactive: 661388 kB HighTotal: 0 kB H...

2017-11-15

583

一、相关参数： 1、core-site.xml 文件修改以下配置项： 1 2 3 4 5 <property> <name>fs.trash.interval< /name > <value>2880< /value > <description>HDFS垃圾箱设置，可以恢复误删除，配置的值为分钟数，0为禁用< /description > < /property > 2、hdfs-default.xml 文件注意以下配置项： 1 2 3 4 5 <property> <name>dfs.ha.log-roll.period< /name > <value>120< /value > <description>EditLog日志滚动频率，单位为秒，默认是两分钟< /description > < /property > 二、分析过程 1、找到editlog日志所在目录查看hdfs-s...

2017-11-15

650

资源下载

更多资源

优质分享App

近一个月的开发和优化，本站点的第一个app全新上线。该app采用极致压缩，本体才4.36MB。系统里面做了大量数据访问、缓存优化。方便用户在手机上查看文章。后续会推出HarmonyOS的适配版本。

Mario

马里奥是站在游戏界顶峰的超人气多面角色。马里奥靠吃蘑菇成长，特征是大鼻子、头戴帽子、身穿背带裤，还留着胡子。与他的双胞胎兄弟路易基一起，长年担任任天堂的招牌角色。

Nacos

Nacos /nɑ:kəʊs/ 是 Dynamic Naming and Configuration Service 的首字母简称，一个易于构建 AI Agent 应用的动态服务发现、配置管理和AI智能体管理平台。Nacos 致力于帮助您发现、配置和管理微服务及AI智能体应用。Nacos 提供了一组简单易用的特性集，帮助您快速实现动态服务发现、服务配置、服务元数据、流量管理。Nacos 帮助您更敏捷和容易地构建、交付和管理微服务平台。

Rocky Linux

Rocky Linux（中文名：洛基）是由Gregory Kurtzer于2020年12月发起的企业级Linux发行版，作为CentOS稳定版停止维护后与RHEL（Red Hat Enterprise Linux）完全兼容的开源替代方案，由社区拥有并管理，支持x86_64、aarch64等架构。其通过重新编译RHEL源代码提供长期稳定性，采用模块化包装和SELinux安全架构，默认包含GNOME桌面环境及XFS文件系统，支持十年生命周期更新。