Sqoop commit failure
线上一个Sqoop抽取Job报如下错误: [ERROR]: Utils - Caused by: java.sql.SQLException: Communicationslink failure during commit(). Transaction resolution unknown. [ERROR]: Utils - at com.mysql.jdbc.Connection.commit(Connection.java:2171) [ERROR]: Utils - atorg.apache.sqoop.mapreduce.db.DBRecordReader.close(DBRecordReader.java:167) 看报错应该是Sqoop在导出数据后,处理数据到提交超过了MySQL的wait_timeout(线上是2分钟); 引起这个的原因会有很多,服务器高负载,HDFS高负载,网卡跑满等等,可以通过在jdbc url里设置interactiveClient=true(线上interactive_timeout是1小时)后没有再报过错; BTW:在写blog的时候想起其实可...


