hive可以drop所有表的bug fix-低调大师

hive可以drop所有表的bug fix

2017-11-06 777

之前遇到的一个drop table的小问题，默认任何人都可以有使用drop db.table的权限
这是一个bug,

 
         bugid:https://issues.apache.org/jira/browse/HIVE-2817

解决方法：
可以通过设置

 
         set hive.exec.drop.ignorenonexistent=false（Do not report an error if DROP TABLE/VIEW specifies a non-existent table/view,

这个值默认是true，

 
         DROPIGNORESNONEXISTENT("hive.exec.drop.ignorenonexistent", true)

）来解决。

 
         Workaround:
        
         set hive.exec.drop.ignorenonexistent=false.
        
         Before that,
        
         we need to check all the "drop" sqls and change to drop if exists.
        
         we need to remove all "drop table db.table" syntax to "use db; drop table if exists table;"

但是如果设置了hive.exec.drop.ignorenonexistent=false，如果表xxx不存在，drop table xxx会报错

 
         hive> set hive.exec.drop.ignorenonexistent=false;
        
         hive> drop table tt;                           
        
         FAILED: SemanticException [Error 10001]: Table not found tt
        
         hive> set hive.exec.drop.ignorenonexistent=true;
        
         hive> drop table tt;                          
        
         OK
        
         Time taken: 0.055 seconds

另外，drop db.table这种语法也会报错，如果设置hive.exec.drop.ignorenonexistent为true则不会报错

 
         hive> set hive.exec.drop.ignorenonexistent=true;
        
         hive> drop table cdnlog.ttt;
        
         FAILED: SemanticException [Error 10001]: Table not found cdnlog.ttt
        
         hive> use cdnlog;drop table ttt;
        
         OK
        
         Time taken: 0.042 seconds
        
         OK
        
         set hive.exec.drop.ignorenonexistent=true;
        
         hive> drop table cdnlog.ttt;
        
         OK

因为更改etl sql的代价比较大，因此只能把hive.exec.drop.ignorenonexistent设置为true，另外需要fix这个bug
drop table是ddl操作，对应的analyzer相关类的路径为：

 
         ql/src/java/org/apache/hadoop/hive/ql/parse/DDLSemanticAnalyzer.java

对应的方法是analyzeDropTable：

 
         @@ -
         721
         ,
         13 
         +
         716
         ,
         30 
         @@ 
        
         private 
         void 
         analyzeDropTable(ASTNode ast, 
         boolean 
         expectView) 
        
         throws 
         SemanticException { 
        
         String tableName = getUnescapedName((ASTNode) ast.getChild(
         0
         )); 
        
         boolean 
         ifExists = (ast.getFirstChildWithType(HiveParser.TOK_IFEXISTS) != 
         null
         ); 
        
         // we want to signal an error if the table/view doesn't exist and we're 
        
         // configured not to fail silently 
        
         boolean 
         throwException = 
        
         !ifExists && !HiveConf.getBoolVar(conf, ConfVars.DROPIGNORESNONEXISTENT); 
        
         try 
         { 
        
         - Table tab = db.getTable(db.getCurrentDatabase(), tableName, throwException);
        
         + 
         // to fix the drop table bug 
        
         + String tableName2 = 
         ""
         ; 
        
         + 
         if 
         (tableName.contains(
         "."
         )) { 
        
         + 
         try 
         { 
        
         + tableName2 = tableName.split(
         "\\."
         )[
         1
         ]; 
        
         + } 
         catch 
         (Exception e) { 
        
         + 
         // do nothing if tableName can't be splitted 
        
         + tableName2 = tableName;
        
         + }
        
         + } 
         else 
         { 
        
         + tableName2 = tableName;
        
         + }
        
         + Table tab = db.getTable(db.getCurrentDatabase(), tableName2, throwException);
        
         +
        
         + 
         // Table tab = db.getTable(db.getCurrentDatabase(), tableName, throwException); 
        
         +
        
         if 
         (tab != 
         null
         ) { 
        
         inputs.add(
         new 
         ReadEntity(tab)); 
        
         outputs.add(
         new 
         WriteEntity(tab));

本文转自菜菜光 51CTO博客，原文链接：http://blog.51cto.com/caiguangguang/1558885，如需转载请自行联系原作者

微信关注我们

原文链接：https://yq.aliyun.com/articles/434403

转载内容版权归作者及来源网站所有！

低调大师中文资讯倾力打造互联网数据资讯、行业资源、电子商务、移动互联网、网络营销平台。持续更新报道IT业界、互联网、市场资讯、驱动更新,是最及时权威的产业资讯及硬件资讯报道平台。

nm ConcurrentModificationException crash的问题

最近线上的的nm 有crash的问题，查看错误日志： 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 2014 - 06 - 19 00 : 01 : 22 , 308 FATAL org.apache.hadoop.yarn.server.nodemanager.containermanager.localizer.ResourceLocalizationService:Error:Shuttingdownjava.util. ConcurrentModificationException atjava.util.LinkedList$ListItr.checkForComodification(LinkedList.java: 761 ) atjava.util.LinkedList$ListItr.next(LinkedList.java: 696 ) atorg.apache.hadoop.yarn.server.nodemanager.containermanager.localizer.Lo...

2017-11-07

786

在运行hive cli命令时，调用hadoop jar hive-cli-0.13.1.jar org.apache.hadoop.hive.cli.CliDriver xxxx 命令,而org.apache.hadoop.util.RunJar方法其实是封装了反射调用，最终是调用org.apache.hadoop.hive.cli.CliDriver类的main方法. CliDriver类是hive的入口类。首先CliDriver类会通过OptionsProcessor类来parse输入的命令。比如解析-e,-s,-h等参数，然后把对应的值存放到对应的CliSessionState类的属性中，最后应用于CliDriver类中。比如在executeDriver方法中，根据CliSessionState的属性对命令进行处理 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 CliDrivercli= new CliDriver(); cli.setHiveVariables(oproc.getHiveVariables()); //有...

2017-11-07

576

资源下载

更多资源

优质分享App

近一个月的开发和优化，本站点的第一个app全新上线。该app采用极致压缩，本体才4.36MB。系统里面做了大量数据访问、缓存优化。方便用户在手机上查看文章。后续会推出HarmonyOS的适配版本。

Mario

马里奥是站在游戏界顶峰的超人气多面角色。马里奥靠吃蘑菇成长，特征是大鼻子、头戴帽子、身穿背带裤，还留着胡子。与他的双胞胎兄弟路易基一起，长年担任任天堂的招牌角色。

Rocky Linux

Rocky Linux（中文名：洛基）是由Gregory Kurtzer于2020年12月发起的企业级Linux发行版，作为CentOS稳定版停止维护后与RHEL（Red Hat Enterprise Linux）完全兼容的开源替代方案，由社区拥有并管理，支持x86_64、aarch64等架构。其通过重新编译RHEL源代码提供长期稳定性，采用模块化包装和SELinux安全架构，默认包含GNOME桌面环境及XFS文件系统，支持十年生命周期更新。

Sublime Text

Sublime Text具有漂亮的用户界面和强大的功能，例如代码缩略图，Python的插件，代码段等。还可自定义键绑定，菜单和工具栏。Sublime Text 的主要功能包括：拼写检查，书签，完整的 Python API ， Goto 功能，即时项目切换，多选择，多窗口等等。Sublime Text 是一个跨平台的编辑器，同时支持Windows、Linux、Mac OS X等操作系统。