Apache Hadoop 2.7如何支持读写OSS
背景
2017.12.13日Apache Hadoop 3.0.0正式版本发布,默认支持阿里云OSS对象存储系统,作为Hadoop兼容的文件系统,后续版本号大于等于Hadoop 2.9.x系列也支持OSS。然而,低版本的Apache Hadoop官方不再支持OSS,本文将描述如何通过支持包来使Hadoop 2.7.2能够读写OSS。
如何使用
下面的步骤需要在所有的Hadoop节点执行
下载支持包
http://gosspublic.alicdn.com/hadoop-spark/hadoop-oss-2.7.2.tar.gz
解压这个支持包,里面的文件是:
[root@apache hadoop-oss-2.7.2]# ls -lh
总用量 3.1M
-rw-r--r-- 1 root root 3.1M 2月 28 17:01 hadoo