将hdfs 上的文件通过shell脚本导入到hive上面-低调大师

将hdfs 上的文件通过shell脚本导入到hive上面

2017-11-30 471

一个应用的数据来源从PostgreSql导入到hdfs 需要使用API来定义这样做的好处就是一次写入永久执行
而从hdfs导入到hive表中有多种方式
shell 脚本算一种
在整个应用构建中处于一个新的模块中
通过new新的文件因为是类sql（导入到hive上）所以文件格式为xxx.hql
整个项目创建或许会产生很多文件所以对与命名上也需要按照一定的格式xx_yy_zz.hql
xx 表示当前所在文件夹文件名
yy表示所建立的表名与内容性质相关
zz是按照怎样的分区分桶格式如yyyyMMdd 表示按天分区的

drop table if exists ods_company_${yyyymmdd};
create external table ods_company_${yyyymmdd}(
company_id int
,company_address string
,company_attr string
,company_boss string
,company_name string
,company_phone string
)stored as parquet
location '/sqoop/btrip_pg/${yyyymmdd}/tb_company'

${yyyymmdd} 为日期这样保证存储在hdfs上的数据可以与表相对应，

location位置和将PostgreSql上的数据导入到hdfs上的输出文件路径一致

微信关注我们

原文链接：https://yq.aliyun.com/articles/277577

转载内容版权归作者及来源网站所有！

低调大师中文资讯倾力打造互联网数据资讯、行业资源、电子商务、移动互联网、网络营销平台。持续更新报道IT业界、互联网、市场资讯、驱动更新,是最及时权威的产业资讯及硬件资讯报道平台。

ElasticSearch数据备份与恢复

ES备份快照的时候可以用NFS或者HDFS。NFS有点麻烦，我们使用HDFS。 1.安装hdfs插件（如果已安装，则忽略这一步）： bin/elasticsearch-plugin install repository-hdfs 注意下载后会提示是否安装，一定要输入 y，否则视为取消安装。安装完之后要重启ES集群. 2.源集群创建仓库： curl -XPUT '192.168.40.11:9200/_snapshot/my_hdfs_repository?pretty' -H 'Content-Type: application/json' -d' { "type": "hdfs", "settings": { "uri": "hdfs://192.168.40.60:8020/", "path": "elasticsearch/repositories/my_hdfs_repository", "conf.dfs.client.read.shortcircuit": "false" } } ' 注意源集群的IP和hdfs的IP不要写错了这里conf.dfs.client.read...

2017-12-01

778

在创建项目的时候需要将数据导入则此时的数据不能通过hql来再shell中展示所以需要记录脚本而这块内容应该写在一个单独的模块下面需要注意的是对文件的明明xx_yy_zz.hqlxx 文件名 yy 表示数据库对应表明 zz分区性质如按照天则为yyyymmdd这样明明的好处就是一目了然让人明白它是哪的文件用于做什么的 drop table if exists ods_company_${yyyymmdd}; create external table ods_company_${yyyymmdd}( company_id int ,company_address string ,company_attr string ,company_boss string ,company_name string ,company_phone string )stored as parquet location '/sqoop/btrip_pg/${yyyymmdd}/tb_company' 运行真个shell脚本过程启动hdfs ，yarn sqoop2-server ：创建job 以...

2017-12-01

721

资源下载

更多资源

优质分享App

近一个月的开发和优化，本站点的第一个app全新上线。该app采用极致压缩，本体才4.36MB。系统里面做了大量数据访问、缓存优化。方便用户在手机上查看文章。后续会推出HarmonyOS的适配版本。

腾讯云软件源

为解决软件依赖安装时官方源访问速度慢的问题，腾讯云为一些软件搭建了缓存服务。您可以通过使用腾讯云软件源站来提升依赖包的安装速度。为了方便用户自由搭建服务架构，目前腾讯云软件源站支持公网访问和内网访问。

Spring

Spring框架（Spring Framework）是由Rod Johnson于2002年提出的开源Java企业级应用框架，旨在通过使用JavaBean替代传统EJB实现方式降低企业级编程开发的复杂性。该框架基于简单性、可测试性和松耦合性设计理念，提供核心容器、应用上下文、数据访问集成等模块，支持整合Hibernate、Struts等第三方框架，其适用范围不仅限于服务器端开发，绝大多数Java应用均可从中受益。

Sublime Text

Sublime Text具有漂亮的用户界面和强大的功能，例如代码缩略图，Python的插件，代码段等。还可自定义键绑定，菜单和工具栏。Sublime Text 的主要功能包括：拼写检查，书签，完整的 Python API ， Goto 功能，即时项目切换，多选择，多窗口等等。Sublime Text 是一个跨平台的编辑器，同时支持Windows、Linux、Mac OS X等操作系统。