大数据(一) - hadoop生态系统及版本演化
大数据系列文章汇总链接 - 更新到15篇
HDFS:分布式存储系统(Hadoop Distributed File System):提供了高可靠性、高扩展性和高吞吐率的数据存储服务
HDFS源自于Google的GFS论文 (发表于2003年10月 ),是GFS克隆版
YARN:资源管理系统(Yet Another Resource Negotiator):负责集群资源的统一管理和调度,Hadoop 2.0新增系统,使得多种计算框架可以运行在一个集群中
MapReduce:分布式计算框架:具有易于编程、高容错性和高扩展性等优点
MapReduce源自于Google的MapReduce论文 (发表于2004年12月),是Google MapReduce克隆版
Hive:由facebook开源,基于MR的数据仓库,数据计算使用MR,数据存储使用HDFS,Hive 定义了一种类 SQL 查询语言——HQL:类似SQL,但不完全相同
日志分析:统计网站一个时间段内的pv、uv
Pig:由yahoo!开源,构建在Hadoop之上的数据仓库
Mahout:数据挖掘库,基于Hadoop的机器学习和数据挖掘的分布式计算框架,实现了三大类算法 :推荐(Recommendation) 、聚类(Clustering) 、分类(Classification)
HBase:分布式数据库,源自Google的Bigtable论文 ,发表于2006年11月 ,是Google Bigtable克隆版
Zookeeper:分布式协作服务,源自Google的Chubby论文 ,发表于2006年11月 ,是Chubby克隆版
解决分布式环境下数据管理问题 :统一命名 、状态同步 、集群管理 、配置同步
Sqoop:数据同步工具,大数据学习交流扣 qun 74零零加4yi3八1连接Hadoop与传统数据库之间的桥梁 ,支持多种数据库,包括MySQL、DB2等 ,插拔式,用户可根据需要支持新的数据库 ;本质上是一个MapReduce程序
Flume:日志收集工具,Cloudera开源的日志收集系统
Oozie:作业流调度系统
目前计算框架和作业类型繁多: MapReduce Java、Streaming、HQL、Pig等
如何对这些框架和作业进行统一管理和调度:
不同作业之间存在依赖关系(DAG);
周期性作业
定时执行的作业
作业执行状态监控与报警(发邮件、短信等)
Hadoop发行版本
apache hadoop版本
CDH:Cloudera DistributedHadoop
http://archive.cloudera.com/cdh5/cdh/
HDP:Hortonworks Data Platform
http://zh.hortonworks.com/hdp/downloads/
建议选择公司发行版(不必面临版本某一个框架的选择问题),比如CDH或HDP ,推荐使用CDH(国内主流版本)
更易维护和升级
经过集成测试,不会面临版本兼容问题
低调大师中文资讯倾力打造互联网数据资讯、行业资源、电子商务、移动互联网、网络营销平台。
持续更新报道IT业界、互联网、市场资讯、驱动更新,是最及时权威的产业资讯及硬件资讯报道平台。
转载内容版权归作者及来源网站所有,本站原创内容转载请注明来源。
- 上一篇
大数据学习思路
学习大数据已经有一段时间了,抽空回顾一下自己学习的一些内容。下图主要为自己学习大数据的一个过程。 阶段一:Java基础 掌握JAVA基本语法、面向对象、集合、IO流、多线程、网络编程 阶段二:MySQL CRUD 阶段三:Linux 常用的操作命令 阶段四:Hadoop生态系统 HDFS、YARN、MapReduce、Hive、HBase、Zookeeper、Flume、Kafka、Sqoop、Spark 阶段五:Spark生态系统 Spark Core、Spark SQL、Spark Streaming、MLlib、Graphx 阶段六:项目实战 用户推荐系统 阶段七:Python 学习python的基础语法。后面的数据爬去、算法的实现、机器学习、深度学习中会用到,学习numpy和panada。 阶段八:HTML 学习HTML的基础语法,了解网页的构成。
- 下一篇
elasticsearch使用指南之Elasticsearch Dynamic Mapping(动态映射机制)
作者简介:《RocketMQ技术内幕》作者、中间件兴趣圈微信公众号维护者 ElasticSearch Mapping(映射)目录:elasticsearch使用指南之Elasticsearch Mapping类型映射概述与元字段类型 Elasticsearch使用指南之Elasticsearch Mapping parameters(主要参数一览) Elasticsearch与关系型数据库的另外一个不同就是索引下的的类型中的字段可以动态创建,无需在使用之前先创建好,支持在索引的过程中动态添加。这种机制也得意于Elasticsearch的动态映射机制,能根据字段的值动态猜测字段的类型,从而建立索引映射。本节将重点介绍Elasticsearch动态映射机制。 PUT data/_doc/1 { "count": 5 } 执行上述请求时,索引"data"不必预先创建,该API会首先会自动创建索引data、类型映射_doc,其映射类型下包含字段count,其类型为long。自动为类型映射根据文档的值推测其类型的过程,就是本文要重点描述的机制:动态类型映射机制。动态映射机制包含如下两种映射规则:...
相关文章
文章评论
共有0条评论来说两句吧...
文章二维码
点击排行
-
Docker使用Oracle官方镜像安装(12C,18C,19C)
- Springboot2将连接池hikari替换为druid,体验最强大的数据库连接池
- CentOS8编译安装MySQL8.0.19
- Docker快速安装Oracle11G,搭建oracle11g学习环境
- SpringBoot2配置默认Tomcat设置,开启更多高级功能
- MySQL8.0.19开启GTID主从同步CentOS8
- CentOS7,8上快速安装Gitea,搭建Git服务器
- Jdk安装(Linux,MacOS,Windows),包含三大操作系统的最全安装
- SpringBoot2编写第一个Controller,响应你的http请求并返回结果
推荐阅读
最新文章
- Docker使用Oracle官方镜像安装(12C,18C,19C)
- SpringBoot2配置默认Tomcat设置,开启更多高级功能
- 设置Eclipse缩进为4个空格,增强代码规范
- Mario游戏-低调大师作品
- MySQL8.0.19开启GTID主从同步CentOS8
- Windows10,CentOS7,CentOS8安装MongoDB4.0.16
- SpringBoot2编写第一个Controller,响应你的http请求并返回结果
- CentOS8编译安装MySQL8.0.19
- Springboot2将连接池hikari替换为druid,体验最强大的数据库连接池
- SpringBoot2整合Redis,开启缓存,提高访问速度