Hive 关于merge的几个参数-低调大师

Hive 关于merge的几个参数

2017-11-14 735

hive.mergejob.maponly

hive.merge.mapfiles

hive.merge.mapredfiles

这三个参数是merge以哪种方式的输出文件，以及以哪种方merge.听起来是不是很绕J

hive.merge.mapfiles(defaulttrue)：这个参数是用来控制是否merge MAP-ONLY型Job的文件输出（如果在Hive里设置了支持DP的话，并且涉及到含有DP列的表，如果Hadoop不支持CombineInputFormat，即版本pre-0.20的话那么这个参数和下个参数是不生效的，即都是false）

hive.merge.mapredfiles(defaultfalse)：这个参数是用来控制merge MAP-REDUCE型Job的文件输出

hive.mergejob.maponly(defaulttrue)：这个参数是用来控制是以MAP-ONLY的形式来进行merge（这里有个前提条件就是需要Hadoop支持CombineInputFormat，0.20之前的即使设置了这个参数true也不会生效）或者以MAP-REDUCE的形式来进行merge.不过关于这个参数还有一个未修复的Bug（https://issues.apache.org/jira/browse/HIVE-2869）因此默认值是true

本文转自MIKE老毕 51CTO博客，原文链接：http://blog.51cto.com/boylook/1319296，如需转载请自行联系原作者

微信关注我们

原文链接：https://yq.aliyun.com/articles/476804

转载内容版权归作者及来源网站所有！

低调大师中文资讯倾力打造互联网数据资讯、行业资源、电子商务、移动互联网、网络营销平台。持续更新报道IT业界、互联网、市场资讯、驱动更新,是最及时权威的产业资讯及硬件资讯报道平台。

linux系统slab内存占用

今天遇见了一个问题，发现一台系统为redhat 5.8的跑storm的机器内存报警，然后跟了一下，发现系统内存耗尽了，但是通过top或者ps命令看到所有应用或系统进程内存占用率总和不到10%。 [@storm-yd8325 ~]# free -m total used free shared buffers cached Mem: 64416 61273 3142 0 419 2597 -/+ buffers/cache: 58256 6159 Swap: 8189 0 8189 那50多G的内存哪去了呢？下面我们来分析一下。 1，查看了/proc/meminfo文件它记录系统内存的分配使用信息的内核文件 [@storm-yd8325 ~]# cat /proc/meminfo MemTotal: 65962124 kB MemFree: 3229264 kB Buffers: 429596 kB Cached: 2658648 kB SwapCached: 0 kB Active: 12872252 kB Inactive: 661388 kB HighTotal: 0 kB H...

2017-11-14

654

一、相关参数： 1、core-site.xml 文件修改以下配置项： 1 2 3 4 5 <property> <name>fs.trash.interval< /name > <value>2880< /value > <description>HDFS垃圾箱设置，可以恢复误删除，配置的值为分钟数，0为禁用< /description > < /property > 2、hdfs-default.xml 文件注意以下配置项： 1 2 3 4 5 <property> <name>dfs.ha.log-roll.period< /name > <value>120< /value > <description>EditLog日志滚动频率，单位为秒，默认是两分钟< /description > < /property > 二、分析过程 1、找到editlog日志所在目录查看hdfs-s...

2017-11-14

720

资源下载

更多资源

腾讯云软件源

为解决软件依赖安装时官方源访问速度慢的问题，腾讯云为一些软件搭建了缓存服务。您可以通过使用腾讯云软件源站来提升依赖包的安装速度。为了方便用户自由搭建服务架构，目前腾讯云软件源站支持公网访问和内网访问。

Spring

Spring框架（Spring Framework）是由Rod Johnson于2002年提出的开源Java企业级应用框架，旨在通过使用JavaBean替代传统EJB实现方式降低企业级编程开发的复杂性。该框架基于简单性、可测试性和松耦合性设计理念，提供核心容器、应用上下文、数据访问集成等模块，支持整合Hibernate、Struts等第三方框架，其适用范围不仅限于服务器端开发，绝大多数Java应用均可从中受益。

Sublime Text

Sublime Text具有漂亮的用户界面和强大的功能，例如代码缩略图，Python的插件，代码段等。还可自定义键绑定，菜单和工具栏。Sublime Text 的主要功能包括：拼写检查，书签，完整的 Python API ， Goto 功能，即时项目切换，多选择，多窗口等等。Sublime Text 是一个跨平台的编辑器，同时支持Windows、Linux、Mac OS X等操作系统。

WebStorm

WebStorm 是jetbrains公司旗下一款JavaScript 开发工具。目前已经被广大中国JS开发者誉为“Web前端开发神器”、“最强大的HTML5编辑器”、“最智能的JavaScript IDE”等。与IntelliJ IDEA同源，继承了IntelliJ IDEA强大的JS部分的功能。