在 EMR 中使用 ES-Hadoop
在 EMR 中使用 ES-Hadoop
ES-Hadoop 是 Elasticsearch(ES) 推出的专门用于对接 Hadoop 生态的工具,使得用户可以使用 Mapreduce(MR)、Spark、Hive 等工具处理 ES 上的数据(ES-Hadoop 还包含另外一部分:将 ES 的索引 snapshot 到 HDFS,对于该内容本文暂不讨论)。众所周知,Hadoop 生态的长处是处理大规模数据集,但是其缺点也很明显,就是当用于交互式分析时,查询时延会比较长。而 ES 是这方面的好手,对于很多查询类型,特别是 ad-hoc 查询,基本可以做到秒级。ES-Hadoop 的推出提供了一种组合两者优势的可能性。使用 ES-Hadoop,用户只需要对自己代码做出很小的改动,即可以快速处理存储在 ES 中的数据,并且能够享受到 ES

低调大师中文资讯倾力打造互联网数据资讯、行业资源、电子商务、移动互联网、网络营销平台。
持续更新报道IT业界、互联网、市场资讯、驱动更新,是最及时权威的产业资讯及硬件资讯报道平台。
转载内容版权归作者及来源网站所有,本站原创内容转载请注明来源。
- 上一篇
[译] 为何前端开发如此不稳定
我们都知道这样一个笑话:在你学会一项前端技术的时候,另外三项新技术已经发布了。不仅如此,你刚学会的那个也已经被弃用了。 我们却不常看到有解释为什么会这样。 典型的解释(来源于 reddit 的 r/programming 频道)这似乎与前端开发者天生不耐烦,追逐流行与能力有限相关,这种解释构成了一个更普遍的谬论:假设你所不理解的行为是由整个群体的愚蠢,糟糕或贪婪造成的 (而你自己的不明智行为完全是由你无法控制的因素造成的)。 无论它是不是谬论,我们确实有这个问题,对吗? 量化问题 在跑偏之前,我们有必要确定这个问题是否真的有现实依据。前端技术真的变化很快吗? 从主流受关注(也可能不是)的技术来看,细想一下这个 Github 上“高星” JavaScript 前端技术排行: +------------------------------------------------------------+ | 库 | Star 数 | 发布时间 | 年龄 | |------------------------------------------------------------+ | Reac...
- 下一篇
在 EMR 中使用 Mongo-Hadoop
在 EMR 中使用 Mongo-Hadoop Mongo-Hadoop 是 MongoDB 推出的用于 Hadoop 系列组件连接 MongoDB 的组件。其原理跟我们上一篇文章介绍的 ES-Hadoop 类似。EMR 中已经集成了 Mongo-Hadoop,用户不用做任何部署配置,即可使用 Mongo-Hadoop。下面我们通过几个例子来展示一下 Mongo-Hadoop 的用法。 准备 在下面这几个例子中,我们使用一个统一的数据模型 { "id": long, "name": text, "age": integer, "birth": date } 由于我们是要通过 Mongo-Hadoop 向 MongoDB 的特定 collection (可以理解成数据库中的表)写数据,因此需要首先确保 MongoDB 上存在这个
相关文章
文章评论
共有0条评论来说两句吧...
文章二维码
点击排行
推荐阅读
最新文章
- SpringBoot2整合Redis,开启缓存,提高访问速度
- SpringBoot2整合Thymeleaf,官方推荐html解决方案
- CentOS关闭SELinux安全模块
- CentOS7设置SWAP分区,小内存服务器的救世主
- Windows10,CentOS7,CentOS8安装MongoDB4.0.16
- 设置Eclipse缩进为4个空格,增强代码规范
- Docker快速安装Oracle11G,搭建oracle11g学习环境
- SpringBoot2全家桶,快速入门学习开发网站教程
- Springboot2将连接池hikari替换为druid,体验最强大的数据库连接池
- Eclipse初始化配置,告别卡顿、闪退、编译时间过长