小白学习大数据测试之hadoop初探-低调大师

小白学习大数据测试之hadoop初探

2017-11-21 492

Hadoop的历史

这里就不多说了，网上很多资料，总而言之对于hadoop谷歌和雅虎对于ta的贡献功不可没。更多介绍请自行查看这里：https://baike.baidu.com/item/Hadoop/3526507?fr=aladdin

Hadoop的应用场景

数据分析，如日志系统、推荐系统

离线计算

海量数据存储

Hadoop的核心

Hadoop的框架最核心的设计就是：HDFS和MapReduce。HDFS为海量的数据提供了存储，则MapReduce为海量的数据提供了计算。

这里特别需要注意的是hadoop是一个总称，主要由HDFS和MapReduce组成。其中MapReduce可以独立使用，用户只要继承MapReduceBase，提供分别实现Map和Reduce的两个类，并注册Job即可自动分布式运行

HDFS

ta是Hadoop分布式文件系统，是一个高度容错性的系统，适合部署在廉价的机器上。HDFS能提供高吞吐量的数据访问，适合那些有着超大数据集的应用程序。可以加入QQ交流群522720170一起来学习。

那么HDFS有什么优势吗？显然非常多，大致有如下几点：

1、适合存储大数据的文件，T级别以上或者一大坨的数据

2、这些大数据文件被打散存储，存储在不同的计算器上，这样方便快速的读取

3、一次写入不能做变化了，如果变化也只能在末尾添加，也就是不支持动态改变文件内容

4、同一个文件块副本会分配到其它某几个主机上，如果其中一台主机失效，可以迅速找另一块副本取文件

5、不用多说了，一堆廉价的机器就可以撑起大数据集群

了解HDFS之后我们来看看他的存储结构，看图说话

上图的解释如下：

HDFS 内部的所有通信都基于标准的 TCP/IP 协议
NameNode（仅一个），保存整个文件系统的目录信息、文件信息及分块信息。以前如果NameNode挂了那就完蛋了，但是hadoop2.x之后可以有备用使用了。
DataNode可以分布在不同的机器上，用来存储在 HDFS 中的文件被分成块（block）
block块的大小（通常为 64MB）和复制的块数量在创建文件时由客户机决定。
NameNode 依赖来自每个 DataNode 的定期心跳消息。如果 DataNode 不能发送心跳消息，NameNode 将采取修复措施，重新复制在该节点上丢失的块

MapReduce

ta大家可以理解为编程模型，主要就是完成对数据的处理的。当HDFS完成存储之后，对海量数据的分析处理就要依靠MapReduce了。简单来理解就是先对数据进行map划分，在对数据进行reduce合并，如下图。

为了让大家更好的理解，这里举个栗子。假设小强测试品牌学员群有上亿的学员（这是我们的目标，嘿嘿，官网http://xqtesting.sxl.cn）我们想找出其中薪水最高的那个人。放到MapReduce里大概是这样的过程：将数据扔到block中，然后进行map找到最高的，然后再reduce汇总分析找出最大的。这个过程非常复杂要经历key-value的产生重组等过程，但是hadoop已经帮我们实现了，我们只需要编写相应的命令即可。

hadoop大数据处理的意义

Hadoop得以在大数据处理应用中广泛应用得益于其自身在数据提取、变形和加载(ETL)方面上的天然优势。

Hadoop的分布式架构，将大数据处理引擎尽可能的靠近存储，对例如像ETL这样的批处理操作相对合适，因为类似这样操作的批处理结果可以直接走向存储。

Hadoop的MapReduce功能实现了将单个任务打碎，并将碎片任务(Map)发送到多个节点上，之后再以单个数据集的形式加载(Reduce)到数据仓库里

本文转自小强测试帮 51CTO博客，原文链接：http://blog.51cto.com/xqtesting/2062189，如需转载请自行联系原作者

微信关注我们

原文链接：https://yq.aliyun.com/articles/486305

转载内容版权归作者及来源网站所有！

低调大师中文资讯倾力打造互联网数据资讯、行业资源、电子商务、移动互联网、网络营销平台。持续更新报道IT业界、互联网、市场资讯、驱动更新,是最及时权威的产业资讯及硬件资讯报道平台。

搭建部署分布式ELK平台（一）

搭建部署分布式ELK平台 ELK 是什么？ ELK 其实并不是一款软件,而是一整套解决方案,是三个软件产品的首字母缩写 – Elasticsearch:负责日志检索和储存 – Logstash:负责日志的收集和分析、处理 – Kibana:负责日志的可视化这三款软件都是开源软件,通常是配合使用,而且又先后归于 Elastic.co 公司名下,故被简称为 ELK ELK 能做什么? • ELK组件在海量日志系统的运维中,可用于解决: – 分布式日志数据集中式查询和管理 – 系统监控,包含系统硬件和应用各个组件的监控 – 故障排查 – 安全信息和事件管理 – 报表功能 Elasticsearch • ElasticSearch 是一个基于 Lucene 的搜索服务器。它提供了一个分布式多用户能力的全文搜索引擎,基于 RESTful API 的 web 接口。 • Elasticsearch是用Java开发的,并作为Apache许可条款下的开放源码发布,是当前流行的企业级搜索引擎。设计用于云计算中,能够达到实时搜索,稳定,可靠,快速,安装使用方便 • 主要特点 – 实时分析 – 分布式...

2017-11-22

481

今天hive user maillist上有人问show current roles命令问题： 1 2 3 4 5 6 Iamtryingtorun‘Showcurrentroles’onApachehive 0.13 . 1 butgettingfollowingerror, hive>SHOWCURRENTROLES; Errorinroleoperationshow_current_roleonrolename null ,errormessageUnkownroleoperationshow_current_role FAILED:ExecutionError, return code 1 fromorg.apache.hadoop.hive.ql.exec.DDLTask Cansomeonetellmewhether this commandissupportedonapacheHive 0.13 . 1 ornot.Ifitissupportedthewhatcouldbetheissue. Anypointerwouldbereallyhelpful. 在我的印象...

2017-11-23

792

资源下载

更多资源

优质分享App

近一个月的开发和优化，本站点的第一个app全新上线。该app采用极致压缩，本体才4.36MB。系统里面做了大量数据访问、缓存优化。方便用户在手机上查看文章。后续会推出HarmonyOS的适配版本。

Nacos

Nacos /nɑ:kəʊs/ 是 Dynamic Naming and Configuration Service 的首字母简称，一个易于构建 AI Agent 应用的动态服务发现、配置管理和AI智能体管理平台。Nacos 致力于帮助您发现、配置和管理微服务及AI智能体应用。Nacos 提供了一组简单易用的特性集，帮助您快速实现动态服务发现、服务配置、服务元数据、流量管理。Nacos 帮助您更敏捷和容易地构建、交付和管理微服务平台。

Rocky Linux

Rocky Linux（中文名：洛基）是由Gregory Kurtzer于2020年12月发起的企业级Linux发行版，作为CentOS稳定版停止维护后与RHEL（Red Hat Enterprise Linux）完全兼容的开源替代方案，由社区拥有并管理，支持x86_64、aarch64等架构。其通过重新编译RHEL源代码提供长期稳定性，采用模块化包装和SELinux安全架构，默认包含GNOME桌面环境及XFS文件系统，支持十年生命周期更新。

Sublime Text

Sublime Text具有漂亮的用户界面和强大的功能，例如代码缩略图，Python的插件，代码段等。还可自定义键绑定，菜单和工具栏。Sublime Text 的主要功能包括：拼写检查，书签，完整的 Python API ， Goto 功能，即时项目切换，多选择，多窗口等等。Sublime Text 是一个跨平台的编辑器，同时支持Windows、Linux、Mac OS X等操作系统。