Hadoop的HA机制

2017-06-07 638

Hadoop的HA机制

前言：正式引入HA机制是从hadoop2.0开始，之前的版本中没有HA机制

1.1HA的运作机制

（1）hadoop-HA集群运作机制介绍

所谓HA，即高可用（7*24小时不中断服务）

实现高可用最关键的是消除单点故障

hadoop-ha严格来说应该分成各个组件的HA机制——HDFS的HA、YARN的HA

（2）HDFS的HA机制详解

通过双namenode消除单点故障

双namenode协调工作的要点：

A、元数据管理方式需要改变：

内存中各自保存一份元数据

Edits日志只能有一份，只有Active状态的namenode节点可以做写操作

两个namenode都可以读取edits

共享的edits放在一个共享存储中管理（qjournal和NFS两个主流实现）

B、需要一个状态管理功能模块

实现了一个zkfailover，常驻在每一个namenode所在的节点

每一个zkfailover负责监控自己所在namenode节点，利用zk进行状态标识

当需要进行状态切换时，由zkfailover来负责切换

切换时需要防止brain split现象的发生

1.2 HDFS-HA图解：

微信关注我们

原文链接：https://yq.aliyun.com/articles/100914

转载内容版权归作者及来源网站所有！

低调大师中文资讯倾力打造互联网数据资讯、行业资源、电子商务、移动互联网、网络营销平台。持续更新报道IT业界、互联网、市场资讯、驱动更新,是最及时权威的产业资讯及硬件资讯报道平台。

Apache Kylin 首批入驻微软 Azure 镜像市场

微软和世纪互联宣布在中国推出认知服务和 Azure 镜像市场，为中国Azure客户和软件开发商搭建起了一站式门户，方便中国Azure客户直接搜索、选择、部署使用，从而满足客户在云端的多样化业务需求。作为领先的智能大数据分析技术公司，Kyligence此次受邀在该镜像市场上发布了Apache Kylin的企业级产品：Kyligence Analytics Platform（简称KAP），值得关注的是Kyligence是首批入驻的大数据公司之一。作为Azure镜像市场的首批合作伙伴，面向中国Azure客户和合作伙伴提供基于Apache Kylin的企业级产品能力。此次发布的KAP镜像，充分利用微软云计算的平台的计算能力及相关组件，为用户提供快速构建基于Apache Kylin的大数据分析平台的能力，避免了从头安装Hadoop及Kylin等的工作，简化了相关操作，用户可以快速在云端构建数据模型，并通过内置或第三方BI工具直接连接云端智能分析平台，快速响应业务需求。Apache Kylin在业界已经被多个公司采用，成为核心大数据分析平台。此次入驻Azure镜像市场，丰富了Azure的大数据...

2017-06-07

602

阿里云E-Mapreduce实践: 使用hadoop restful api实现对集群信息的统计本文根据hadoop/spark的RESTful API，实现了对集群基本信息的统计功能，包括HDFS文件系统、job情况、资源队列情况的统计。这些API只提供了基础的数据，具体的统计与分析，还需要基于这些基础数据做一些简单的开发。资讯全球因Hadoop服务器配置不当导致的数据泄露或达5120TB网络犯罪分子近期开始针对配置不当的 Hadoop Clusters 与 CouchDB 服务器展开攻击活动。目前全球因Hadoop分布式文件系统（HDFS）配置不当导致的数据泄露或达 5,120 TB。数梦工场7.5亿A轮融资三个维度构建「新型互联网」 6月8日，数梦工场战略暨A轮发布会在杭州举行。数梦工场已获得来自光大实业资本、阿里巴巴等机构

2017-06-08

721

资源下载

更多资源

腾讯云软件源

为解决软件依赖安装时官方源访问速度慢的问题，腾讯云为一些软件搭建了缓存服务。您可以通过使用腾讯云软件源站来提升依赖包的安装速度。为了方便用户自由搭建服务架构，目前腾讯云软件源站支持公网访问和内网访问。

Nacos

Nacos /nɑ:kəʊs/ 是 Dynamic Naming and Configuration Service 的首字母简称，一个易于构建 AI Agent 应用的动态服务发现、配置管理和AI智能体管理平台。Nacos 致力于帮助您发现、配置和管理微服务及AI智能体应用。Nacos 提供了一组简单易用的特性集，帮助您快速实现动态服务发现、服务配置、服务元数据、流量管理。Nacos 帮助您更敏捷和容易地构建、交付和管理微服务平台。

Sublime Text

Sublime Text具有漂亮的用户界面和强大的功能，例如代码缩略图，Python的插件，代码段等。还可自定义键绑定，菜单和工具栏。Sublime Text 的主要功能包括：拼写检查，书签，完整的 Python API ， Goto 功能，即时项目切换，多选择，多窗口等等。Sublime Text 是一个跨平台的编辑器，同时支持Windows、Linux、Mac OS X等操作系统。

WebStorm

WebStorm 是jetbrains公司旗下一款JavaScript 开发工具。目前已经被广大中国JS开发者誉为“Web前端开发神器”、“最强大的HTML5编辑器”、“最智能的JavaScript IDE”等。与IntelliJ IDEA同源，继承了IntelliJ IDEA强大的JS部分的功能。