Hive作业优化总结(来自一号店)
Hive作业优化总结 目录 Hive作业优化总结... 1 一、Hadoop 计算框架的特性... 1 二、优化常用的手段... 2 三、优化案例... 2 1、Join原则... 2 2、笛卡尔积... 2 3、控制Map数... 3 4、设置合理reducer个数... 3 5、合并MapReduce操作... 4 6 、LEFT SEMI JOIN.. 4 7、Hive注意事项... 4 一、Hadoop 计算框架的特性 1、什么是数据倾斜? •由于数据分布不均匀,造成数据大量的集中到一点,造成数据热点。 2、Hadoop框架的特性 •不怕数据大,怕数据倾斜。 •jobs数比较多的作业运行效率相对比较低,如子查询比较多。 •sum,count,max,min等聚集函数,不会有数据倾斜问题 3、容易数据倾斜情况 ·group by ·count(distinct ),在数据量大的情况下,容易数据倾斜,因为count(distinct)是按group by 字段分组,按distinct字段排序。 ·小表关联超大表 •数据倾斜的时候进行负载均衡 hive.groupby...