hadoop Unexpected end of input stream 错误-低调大师

hadoop Unexpected end of input stream 错误

2017-11-06 1235

线上一个job出错，报错信息如下：

 
        Diagnostic Messages 
        for 
        this 
        Task: 
       
        Error
       
        : 
       
        java.io.IOException: java.io.EOFException: Unexpected end of input stream
       
        at org.apache.hadoop.hive.io.HiveIOExceptionHandlerChain.handleRecordReaderNextException(HiveIOExceptionHandlerChain.java:
        121
        ) 
       
        at org.apache.hadoop.hive.io.HiveIOExceptionHandlerUtil.handleRecordReaderNextException(HiveIOExceptionHandlerUtil.java:
        77
        ) 
       
        at org.apache.hadoop.hive.ql.io.HiveContextAwareRecordReader.doNext(HiveContextAwareRecordReader.java:
        276
        ) 
       
        at org.apache.hadoop.hive.ql.io.HiveRecordReader.doNext(HiveRecordReader.java:
        79
        ) 
       
        at org.apache.hadoop.hive.ql.io.HiveRecordReader.doNext(HiveRecordReader.java:
        33
        ) 
       
        at org.apache.hadoop.hive.ql.io.HiveContextAwareRecordReader.next(HiveContextAwareRecordReader.java:
        108
        ) 
       
        at org.apache.hadoop.mapred.MapTask$TrackedRecordReader.moveToNext(MapTask.java:
        196
        ) 
       
        at org.apache.hadoop.mapred.MapTask$TrackedRecordReader.next(MapTask.java:
        182
        ) 
       
        at org.apache.hadoop.mapred.MapRunner.run(MapRunner.java:
        52
        ) 
       
        at org.apache.hadoop.mapred.MapTask.runOldMapper(MapTask.java:
        428
        ) 
       
        at org.apache.hadoop.mapred.MapTask.run(MapTask.java:
        340
        ) 
       
        at org.apache.hadoop.mapred.YarnChild$
        2
        .run(YarnChild.java:
        160
        ) 
       
        at java.security.AccessController.doPrivileged(Native Method) 
       
        at javax.security.auth.Subject.doAs(Subject.java:
        396
        ) 
       
        at org.apache.hadoop.security.UserGroupInformation.doAs(UserGroupInformation.java:
        1438
        ) 
       
        at org.apache.hadoop.mapred.YarnChild.main(YarnChild.java:
        155
        ) 
       
        Caused by: java.io.EOFException: Unexpected end of input stream
       
        at org.apache.hadoop.io.compress.DecompressorStream.decompress(DecompressorStream.java:
        143
        ) 
       
        at org.apache.hadoop.io.compress.DecompressorStream.read(DecompressorStream.java:
        83
        ) 
       
        at java.io.InputStream.read(InputStream.java:
        82
        ) 
       
        at org.apache.hadoop.util.LineReader.readDefaultLine(LineReader.java:
        209
        ) 
       
        at org.apache.hadoop.util.LineReader.readLine(LineReader.java:
        173
        ) 
       
        at org.apache.hadoop.mapred.LineRecordReader.next(LineRecordReader.java:
        206
        ) 
       
        at org.apache.hadoop.mapred.LineRecordReader.next(LineRecordReader.java:
        45
        ) 
       
        at org.apache.hadoop.hive.ql.io.HiveContextAwareRecordReader.doNext(HiveContextAwareRecordReader.java:
        274
        ) 
       
        ... 
        13 
        more

从报错信息来看，是和io读取有关系的，即在map阶段，数据读取出错导致。

通过explain extended查看读取的文件，因为是text的gz文件，使用zcat进行测试，最终定位到是由于gz文件异常导致。将有问题的数据删除后job恢复。

本文转自菜菜光 51CTO博客，原文链接：http://blog.51cto.com/caiguangguang/1436077，如需转载请自行联系原作者

微信关注我们

原文链接：https://yq.aliyun.com/articles/434519

转载内容版权归作者及来源网站所有！

低调大师中文资讯倾力打造互联网数据资讯、行业资源、电子商务、移动互联网、网络营销平台。持续更新报道IT业界、互联网、市场资讯、驱动更新,是最及时权威的产业资讯及硬件资讯报道平台。

yarn RM crash问题一例

今天收到线上的resource manager报警：报错信息如下： 1 2 3 4 5 6 7 8 9 10 11 12 13 2014 - 07 - 08 13 : 22 : 54 , 118 INFOorg.apache.hadoop.yarn.util.AbstractLivelinessMonitor:Expired:xxxx: 53356 Timedoutafter 600 secs 2014 - 07 - 08 13 : 22 : 54 , 118 INFOorg.apache.hadoop.yarn.server.resourcemanager.rmnode.RMNodeImpl:DeactivatingNodexxxx: 53356 asitisnowLOST 2014 - 07 - 08 13 : 22 : 54 , 118 INFOorg.apache.hadoop.yarn.server.resourcemanager.rmnode.RMNodeImpl:xxxx: 53356 NodeTransitionedfromUNHEALTHYtoLOST 2014 -...

2017-11-07

820

hive0.11升级问题小结

为了兼容spark，并使用hive的kerberos和hiveserver2功能和一些窗口函数，线上的hive由0.10升级至0.11,遇到几个问题，简单记录下： 1.分区schemal的问题具体见： http://caiguangguang.blog.51cto.com/1652935/1355216 2.部分函数运行 unix_timestamp 在参数为null时会报错： 1 2 3 hive> select unix_timestamp( null ) from default .dual limit 5; FAILED: SemanticException [Error 10014]: Line 1:7 Wrong arguments 'TOK_NULL' : The function UNIX_TIMESTAMP takes only string or timestamp types 变通的方法时通过case when做处理： 1 ( case when ddtime is null then null else unix_timestamp(ddtime) en...

2017-11-07

715

发表评论

资源下载

更多资源

Mario

马里奥是站在游戏界顶峰的超人气多面角色。马里奥靠吃蘑菇成长，特征是大鼻子、头戴帽子、身穿背带裤，还留着胡子。与他的双胞胎兄弟路易基一起，长年担任任天堂的招牌角色。

腾讯云软件源

为解决软件依赖安装时官方源访问速度慢的问题，腾讯云为一些软件搭建了缓存服务。您可以通过使用腾讯云软件源站来提升依赖包的安装速度。为了方便用户自由搭建服务架构，目前腾讯云软件源站支持公网访问和内网访问。

Nacos

Nacos /nɑ:kəʊs/ 是 Dynamic Naming and Configuration Service 的首字母简称，一个易于构建 AI Agent 应用的动态服务发现、配置管理和AI智能体管理平台。Nacos 致力于帮助您发现、配置和管理微服务及AI智能体应用。Nacos 提供了一组简单易用的特性集，帮助您快速实现动态服务发现、服务配置、服务元数据、流量管理。Nacos 帮助您更敏捷和容易地构建、交付和管理微服务平台。

Spring

Spring框架（Spring Framework）是由Rod Johnson于2002年提出的开源Java企业级应用框架，旨在通过使用JavaBean替代传统EJB实现方式降低企业级编程开发的复杂性。该框架基于简单性、可测试性和松耦合性设计理念，提供核心容器、应用上下文、数据访问集成等模块，支持整合Hibernate、Struts等第三方框架，其适用范围不仅限于服务器端开发，绝大多数Java应用均可从中受益。