hive可以drop所有表的bug fix-低调大师

hive可以drop所有表的bug fix

2017-11-06 843

之前遇到的一个drop table的小问题，默认任何人都可以有使用drop db.table的权限
这是一个bug,

 
         bugid:https://issues.apache.org/jira/browse/HIVE-2817

解决方法：
可以通过设置

 
         set hive.exec.drop.ignorenonexistent=false（Do not report an error if DROP TABLE/VIEW specifies a non-existent table/view,

这个值默认是true，

 
         DROPIGNORESNONEXISTENT("hive.exec.drop.ignorenonexistent", true)

）来解决。

 
         Workaround:
        
         set hive.exec.drop.ignorenonexistent=false.
        
         Before that,
        
         we need to check all the "drop" sqls and change to drop if exists.
        
         we need to remove all "drop table db.table" syntax to "use db; drop table if exists table;"

但是如果设置了hive.exec.drop.ignorenonexistent=false，如果表xxx不存在，drop table xxx会报错

 
         hive> set hive.exec.drop.ignorenonexistent=false;
        
         hive> drop table tt;                           
        
         FAILED: SemanticException [Error 10001]: Table not found tt
        
         hive> set hive.exec.drop.ignorenonexistent=true;
        
         hive> drop table tt;                          
        
         OK
        
         Time taken: 0.055 seconds

另外，drop db.table这种语法也会报错，如果设置hive.exec.drop.ignorenonexistent为true则不会报错

 
         hive> set hive.exec.drop.ignorenonexistent=true;
        
         hive> drop table cdnlog.ttt;
        
         FAILED: SemanticException [Error 10001]: Table not found cdnlog.ttt
        
         hive> use cdnlog;drop table ttt;
        
         OK
        
         Time taken: 0.042 seconds
        
         OK
        
         set hive.exec.drop.ignorenonexistent=true;
        
         hive> drop table cdnlog.ttt;
        
         OK

因为更改etl sql的代价比较大，因此只能把hive.exec.drop.ignorenonexistent设置为true，另外需要fix这个bug
drop table是ddl操作，对应的analyzer相关类的路径为：

 
         ql/src/java/org/apache/hadoop/hive/ql/parse/DDLSemanticAnalyzer.java

对应的方法是analyzeDropTable：

 
         @@ -
         721
         ,
         13 
         +
         716
         ,
         30 
         @@ 
        
         private 
         void 
         analyzeDropTable(ASTNode ast, 
         boolean 
         expectView) 
        
         throws 
         SemanticException { 
        
         String tableName = getUnescapedName((ASTNode) ast.getChild(
         0
         )); 
        
         boolean 
         ifExists = (ast.getFirstChildWithType(HiveParser.TOK_IFEXISTS) != 
         null
         ); 
        
         // we want to signal an error if the table/view doesn't exist and we're 
        
         // configured not to fail silently 
        
         boolean 
         throwException = 
        
         !ifExists && !HiveConf.getBoolVar(conf, ConfVars.DROPIGNORESNONEXISTENT); 
        
         try 
         { 
        
         - Table tab = db.getTable(db.getCurrentDatabase(), tableName, throwException);
        
         + 
         // to fix the drop table bug 
        
         + String tableName2 = 
         ""
         ; 
        
         + 
         if 
         (tableName.contains(
         "."
         )) { 
        
         + 
         try 
         { 
        
         + tableName2 = tableName.split(
         "\\."
         )[
         1
         ]; 
        
         + } 
         catch 
         (Exception e) { 
        
         + 
         // do nothing if tableName can't be splitted 
        
         + tableName2 = tableName;
        
         + }
        
         + } 
         else 
         { 
        
         + tableName2 = tableName;
        
         + }
        
         + Table tab = db.getTable(db.getCurrentDatabase(), tableName2, throwException);
        
         +
        
         + 
         // Table tab = db.getTable(db.getCurrentDatabase(), tableName, throwException); 
        
         +
        
         if 
         (tab != 
         null
         ) { 
        
         inputs.add(
         new 
         ReadEntity(tab)); 
        
         outputs.add(
         new 
         WriteEntity(tab));

本文转自菜菜光 51CTO博客，原文链接：http://blog.51cto.com/caiguangguang/1558885，如需转载请自行联系原作者

微信关注我们

原文链接：https://yq.aliyun.com/articles/434403

转载内容版权归作者及来源网站所有！

低调大师中文资讯倾力打造互联网数据资讯、行业资源、电子商务、移动互联网、网络营销平台。持续更新报道IT业界、互联网、市场资讯、驱动更新,是最及时权威的产业资讯及硬件资讯报道平台。

nm ConcurrentModificationException crash的问题

最近线上的的nm 有crash的问题，查看错误日志： 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 2014 - 06 - 19 00 : 01 : 22 , 308 FATAL org.apache.hadoop.yarn.server.nodemanager.containermanager.localizer.ResourceLocalizationService:Error:Shuttingdownjava.util. ConcurrentModificationException atjava.util.LinkedList$ListItr.checkForComodification(LinkedList.java: 761 ) atjava.util.LinkedList$ListItr.next(LinkedList.java: 696 ) atorg.apache.hadoop.yarn.server.nodemanager.containermanager.localizer.Lo...

2017-11-06

832

在运行hive cli命令时，调用hadoop jar hive-cli-0.13.1.jar org.apache.hadoop.hive.cli.CliDriver xxxx 命令,而org.apache.hadoop.util.RunJar方法其实是封装了反射调用，最终是调用org.apache.hadoop.hive.cli.CliDriver类的main方法. CliDriver类是hive的入口类。首先CliDriver类会通过OptionsProcessor类来parse输入的命令。比如解析-e,-s,-h等参数，然后把对应的值存放到对应的CliSessionState类的属性中，最后应用于CliDriver类中。比如在executeDriver方法中，根据CliSessionState的属性对命令进行处理 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 CliDrivercli= new CliDriver(); cli.setHiveVariables(oproc.getHiveVariables()); //有...

2017-11-06

633

资源下载

更多资源

Nacos

Nacos /nɑ:kəʊs/ 是 Dynamic Naming and Configuration Service 的首字母简称，一个易于构建 AI Agent 应用的动态服务发现、配置管理和AI智能体管理平台。Nacos 致力于帮助您发现、配置和管理微服务及AI智能体应用。Nacos 提供了一组简单易用的特性集，帮助您快速实现动态服务发现、服务配置、服务元数据、流量管理。Nacos 帮助您更敏捷和容易地构建、交付和管理微服务平台。

Spring

Spring框架（Spring Framework）是由Rod Johnson于2002年提出的开源Java企业级应用框架，旨在通过使用JavaBean替代传统EJB实现方式降低企业级编程开发的复杂性。该框架基于简单性、可测试性和松耦合性设计理念，提供核心容器、应用上下文、数据访问集成等模块，支持整合Hibernate、Struts等第三方框架，其适用范围不仅限于服务器端开发，绝大多数Java应用均可从中受益。

Rocky Linux

Rocky Linux（中文名：洛基）是由Gregory Kurtzer于2020年12月发起的企业级Linux发行版，作为CentOS稳定版停止维护后与RHEL（Red Hat Enterprise Linux）完全兼容的开源替代方案，由社区拥有并管理，支持x86_64、aarch64等架构。其通过重新编译RHEL源代码提供长期稳定性，采用模块化包装和SELinux安全架构，默认包含GNOME桌面环境及XFS文件系统，支持十年生命周期更新。

WebStorm

WebStorm 是jetbrains公司旗下一款JavaScript 开发工具。目前已经被广大中国JS开发者誉为“Web前端开发神器”、“最强大的HTML5编辑器”、“最智能的JavaScript IDE”等。与IntelliJ IDEA同源，继承了IntelliJ IDEA强大的JS部分的功能。