使用Apache Impala(CDH6)查询OSS的数据
CDH6
目前CDH的最新版本是6.0.1,支持Hadoop 3.0.0,本文将介绍如何使CDH6的相关组件(Hadoop/Hive/Spark/Impala等)能够读写OSS。CDH5对OSS的支持在这篇文章介绍。
CDH6支持读写OSS
搭建CDH集群
首先根据官方文档搭建好CDH6集群
增加OSS配置
通过CM来增加配置(对于没有CM管理的集群,可以通过修改core-site.xml来达到)
这里以CM为例,需要增加如下配置:
配置项 | 值 | 说明 |
---|---|---|
fs.oss.endpoint | 如 oss-cn-zhangjiakou-internal.aliyuncs.com | 要连接的endpoint |
fs.oss.accessKeyId | access key id | |
fs.oss.accessKeySecret | access key secret | |
fs.oss.impl | org |

低调大师中文资讯倾力打造互联网数据资讯、行业资源、电子商务、移动互联网、网络营销平台。
持续更新报道IT业界、互联网、市场资讯、驱动更新,是最及时权威的产业资讯及硬件资讯报道平台。
转载内容版权归作者及来源网站所有,本站原创内容转载请注明来源。
- 上一篇
标题:DKhadoop大数据处理平台监控数据介绍
标题:DKhadoop大数据处理平台监控数据介绍2018年国内大数据公司50强榜单排名已经公布了出来,大快以黑马之姿闯入50强,并摘得多项桂冠。Hanlp自然语言处理技术也荣膺了“2018中国数据星技术”奖。对这份榜单感兴趣的可以找一下看看。本篇承接上一篇《DKM平台监控参数说明》,继续就大快的大数据一体化处理架构中的平台监控参数进行介绍和说明。DKhadoop大数据处理平台架构的安装相关文章已经分享过,详细的内容可以找一下看看。在上一篇中已经就集群平均负载、集群磁盘使用情况、HDFS监控界面、Hbase监控界面等监控参数进行说明。今天就把剩下的一些监控参数一起介绍完,关于大快大数据处理平台监控参数的介绍就完整了。 1、Yarn监控界面(1) 执行失败的应用程序 监控 yarn资源管理中总执行失败的应用程序数量纵轴表示应用程序数量,单位个横轴表示时间,单位分钟(2)已提交的应用程序 监控 yarn资源管理中已提交的应用程序数量纵轴表示应用程序数量,单位个横轴表示时间,单位分钟 (3)正在运行的应用程序 监控 yarn资源管理中正在运行的应用程序数量纵轴表示应用程序数量,单位个横轴表示时...
- 下一篇
10月上市新书,送出一本你爱的
每月月末小编都会盘点本月的异步新书,送出一本你最爱的异步图书。10月上市新书本次带来8本,涉及到的领域分别是响应式Web开发、Elasticsearch、编程语言、Linux、Python、游戏开发、测试开发等,从最新的书了解最新的技术,异步新书让你更好地应对快速变化的科技世界。 《反应式Web应用开发》 Manuel Bernhardt著 本书分为4个部分,由浅入深地介绍了响应式Web开发的各项技巧。从认识响应式,到讲解响应式的特点,以及如何完成响应式Web开发,本书都给出了非常清晰且详细的指导步骤。读者能够在本书中获取到重要的开发技能,并且能够从实例中得到更多实用的开发技巧。 《micro:bit超好玩——米爸带你学编程》 狄勇著 本书基于家庭创客课程的理念,通过18个小项目让孩子们在具体实践中入门BBC micro:bit。以mini PBL的方式,让孩子们在具体项目中了解和运用信息技术,并通过传感器实现物理计算,使之成为探索新知和实现想法的工具,让技术链接生活,让创新在实践中萌芽。这或许并不是一本面面俱到的micro:bit教程,但一定是本能让孩子触类旁通,并且有趣的micro...
相关文章
文章评论
共有0条评论来说两句吧...
文章二维码
点击排行
推荐阅读
最新文章
- 设置Eclipse缩进为4个空格,增强代码规范
- SpringBoot2全家桶,快速入门学习开发网站教程
- CentOS7,CentOS8安装Elasticsearch6.8.6
- Windows10,CentOS7,CentOS8安装MongoDB4.0.16
- CentOS7设置SWAP分区,小内存服务器的救世主
- Docker安装Oracle12C,快速搭建Oracle学习环境
- Springboot2将连接池hikari替换为druid,体验最强大的数据库连接池
- Hadoop3单机部署,实现最简伪集群
- MySQL8.0.19开启GTID主从同步CentOS8
- CentOS8安装Docker,最新的服务器搭配容器使用