阿里云大数据ACP认证知识点梳理7—

阿里云大数据ACP认证知识点梳理7——MAP REDUCE

2018-12-15 554

1、输入数据：对文本进行分片，将每片内的数据作为单个Map Worker的输入。

2、Map阶段：Map处理输入，每获取一个数字，将数字的Count 设置为1，并将此对输出，此时以Word作为输出数据的Key。

3、Shuffle>合并排序：在Shuffle阶段前期，首先对每个Map Worker的输出，按照Key值（即Word值）进行排序。排序后进行Combiner操作，即将Key值（Word值）相同的Count累加，构成一个新的对。此过程被称为合并排序。
4、Shuffle>分配Reduce：在Shuffle阶段后期，数据被发送到Reduce端。Reduce Worker收到数据后依赖Key值再次对数据排序。

5、Reduce阶段：每个Reduce Worker对数据进行处理时，采用与Combiner相同的逻辑，将Key值

微信关注我们

原文链接：https://yq.aliyun.com/articles/679739

转载内容版权归作者及来源网站所有！

低调大师中文资讯倾力打造互联网数据资讯、行业资源、电子商务、移动互联网、网络营销平台。持续更新报道IT业界、互联网、市场资讯、驱动更新,是最及时权威的产业资讯及硬件资讯报道平台。

阿里云大数据ACP认证知识点梳理6——基础SQL语句（内建函数、窗口函数规则、隐式转换规则）

abs(null)=null abs(-1)=1 abs(-1.2)=1.2 abs("-2")=2.0 abs(122320837456298376592387456923748)=1.2232083745629837e32 注：当number为Double、Bigint或Decimal类型时。输入为Bigint，返回Bigint。输入为Double，返回Double类型。输入为Decimal，返回Decimal类型。若输入为String类型，会隐式转换为Double类型后参与运算，其它类型抛异常。若输入为null，则返回null。 ceil(1.1)=2 ceil(-1.1)=-1 注：向上取整，函数返回不小于输入值value的最小整数。Double类型或Decimal类型，若输入为String类型或Bigint类型，会隐式转换到D

2018-12-16

559

阿里云大数据ACP认证知识点梳理8——Graph 图计算

MaxCompute Graph是一套面向迭代的图计算处理框架。图计算作业使用图进行建模，图由点（Vertex）和边（Edge）组成，点和边包含权值（Value）。 MaxCompute Graph支持以下图编辑操作：1、修改点或边的权值。2、增加/删除点。3、增加/删除边。通过迭代对图进行编辑、演化，最终求解出结果，典型应用有：PageRank，单源最短距离算法，K-均值聚类算法等。您可以使用MaxCompute Graph提供的接口Java SDK编写图计算程序。 MaxCompute Graph能够处理的图必须是是一个由点（Vertex）和边（Edge）组成的有向图。由于MaxCompute仅提供二维表的存储结构，因此需要您自行将图数据分解为二维表格式存储在MaxCompute中。在进行图计算分析时，使用自定义的GraphLo

2018-12-16

664

资源下载

更多资源

优质分享App

近一个月的开发和优化，本站点的第一个app全新上线。该app采用极致压缩，本体才4.36MB。系统里面做了大量数据访问、缓存优化。方便用户在手机上查看文章。后续会推出HarmonyOS的适配版本。

Eclipse

Eclipse 是一个开放源代码的、基于Java的可扩展开发平台。就其本身而言，它只是一个框架和一组服务，用于通过插件组件构建开发环境。幸运的是，Eclipse 附带了一个标准的插件集，包括Java开发工具（Java Development Kit，JDK）。

JDK

JDK是 Java 语言的软件开发工具包，主要用于移动设备、嵌入式设备上的java应用程序。JDK是整个java开发的核心，它包含了JAVA的运行环境（JVM+Java系统类库）和JAVA工具。

Sublime Text

Sublime Text具有漂亮的用户界面和强大的功能，例如代码缩略图，Python的插件，代码段等。还可自定义键绑定，菜单和工具栏。Sublime Text 的主要功能包括：拼写检查，书签，完整的 Python API ， Goto 功能，即时项目切换，多选择，多窗口等等。Sublime Text 是一个跨平台的编辑器，同时支持Windows、Linux、Mac OS X等操作系统。