并行计算框架MapReduce编程模型-低调大师

并行计算框架MapReduce编程模型

2018-02-10 681

思想：分而治之

map：对每一部分进行处理
reduce :汇总map结果

map是MapReduce最核心的。

mapreduce编程模型

一种分布式计算模型，解决海量数据计算问题

MapReduce把整个并行计算的过程抽象到两个函数，map和reduce函数。
map（映射）：对一些独立元素组成的列表的每一个元素进行指定操作，可以高度并行。（10T分解分解成1T ，1t就是独立元素）
Reduce（化简）：对一个列表的元素进行合并。
一个简单的mapreduce程序只需要指定map（），reduece（），input和output，剩下的事就是mapreduce框架的事。

mapReduce执行过程

put--map-reduce-output

在put第一个环节，就把文件以map key value形式处理了。当到第2，3,4环节map、的时候实际得到的是处理好的map key value数据。

MapReduce将作业的整个运行过程分为两个阶段

map阶段
map阶段由一定数量的Maptask组成

数据数据的格式解析 InputFormat
数据数据处理 mapper
数据分组 partitioner

reduce阶段
reduce阶段由一定数量的reducetask组成

数据远程copy
数据按需排序
数据处理 reducer
数据输出格式 outputFormat

编写mapreduce程序

基于mapReduce模型编写分布式并行程序非常简单，程序员的主要编码工作就是实现map和Reduce函数。
其他并行编程中种种复杂的问题，例如：分布式存储、工作调度、负载、容错、网络通信，均由yarn框架处理。

计算wordcount符合范式

公式：input--->map-->reduece->output
bin/hdfs dfs jar share/hadoop/mapreduce/hadoop-mapreduce-examples-2.5.0.jar input output

key：偏移量 value：行数据

hadoop yarn --> <0,hadoop yarn>
hadoop mapreduce --> <11,hadoop mapreduce>
hadoop hdfs
yarn nodemanager
hadoop resourcemanager

微信关注我们

原文链接：https://yq.aliyun.com/articles/510266

转载内容版权归作者及来源网站所有！

低调大师中文资讯倾力打造互联网数据资讯、行业资源、电子商务、移动互联网、网络营销平台。持续更新报道IT业界、互联网、市场资讯、驱动更新,是最及时权威的产业资讯及硬件资讯报道平台。

从单租户IaaS到多租户PaaS——金融级别大数据平台MaxCompute的多租户隔离实践

摘要：在2017年云栖大会•北京峰会的大数据专场中，来自阿里云的高级技术专家李雪峰带来了主题为《金融级别大数据平台的多租户隔离实践》的演讲。在分享中，李雪峰首先介绍了基于传统IaaS单租户架构做隔离时面临的问题；然后，他重点分享了MaxCompute PaaS层面的多租户的架构以及MaxCompute在安全隔离方面的具体实践。 IaaS单租户大数据产品架构基于IaaS单租户大数据产品架构如上图所示，架构底层通常利用HDFS2实现；基于HDFS2之上搭建Hadoop Yarn或MESOS等资源管控平台；在其之上再实现具体的计算模型，如MR、Hive、HBASE以及Spark等。在这类生态环境中，IaaS平台通常作为同一租户存在，当用户产生新需求时，通过IaaS平台申请一批集群（虚机），再这些集群上部署相应的开源产品。从隔离的角度出发

2018-02-11

802

WordCount因果图 MapReduce中 map和reduce函数格式 MapReduce中，map和reduce函数遵循如下常规格式： map: (K1, V1) → list(K2, V2) reduce: (K2, list(V2)) → list(K3, V3) Mapper的基类： protected void map(KEY key, VALUE value, Context context) throws IOException, InterruptedException { } Reducer的基类： protected void reduce(KEY key, Iterable<VALUE> values, Context context) throws IOException, InterruptedException { } Context是上下文对象代码模板 wordcount 代码代码编写依据，也就是固定写法 input-->map--->reduce->output以下java代码实现此命令的功能bin/hdfs df...

2018-02-12

535

资源下载

更多资源

优质分享App

近一个月的开发和优化，本站点的第一个app全新上线。该app采用极致压缩，本体才4.36MB。系统里面做了大量数据访问、缓存优化。方便用户在手机上查看文章。后续会推出HarmonyOS的适配版本。

腾讯云软件源

为解决软件依赖安装时官方源访问速度慢的问题，腾讯云为一些软件搭建了缓存服务。您可以通过使用腾讯云软件源站来提升依赖包的安装速度。为了方便用户自由搭建服务架构，目前腾讯云软件源站支持公网访问和内网访问。

Nacos

Nacos /nɑ:kəʊs/ 是 Dynamic Naming and Configuration Service 的首字母简称，一个易于构建 AI Agent 应用的动态服务发现、配置管理和AI智能体管理平台。Nacos 致力于帮助您发现、配置和管理微服务及AI智能体应用。Nacos 提供了一组简单易用的特性集，帮助您快速实现动态服务发现、服务配置、服务元数据、流量管理。Nacos 帮助您更敏捷和容易地构建、交付和管理微服务平台。

Sublime Text

Sublime Text具有漂亮的用户界面和强大的功能，例如代码缩略图，Python的插件，代码段等。还可自定义键绑定，菜单和工具栏。Sublime Text 的主要功能包括：拼写检查，书签，完整的 Python API ， Goto 功能，即时项目切换，多选择，多窗口等等。Sublime Text 是一个跨平台的编辑器，同时支持Windows、Linux、Mac OS X等操作系统。