SQL基础知识

MaxCompute没有事务概念、主键、索引，不支持update和delete操作

MaxCompute SQL是什么？

MaxCompute SQL是个数据处理工具
Query解析后，计算和存储交由底层的飞天实现
MaxCompute SQL采用的类似于SQL的语法，可以看作是标准SQL的子集，但不能因此简单地把MaxCompute等价成一个数据库
MaxCompute SQL每个作业的准备，提交阶段要话费较长时间，实时性不高。
目前MaxCompute SQL长度有限制，单条不超过2M。

MaxCompute中的数据组织

Project项目空间：

MaxCompute的所有对象都隶属于项目空间 项目时maxcompute计量计费及安全控制的基本单元

Table表：

所有的数据都存储在表里 支持表分区，支持依赖于表的视图

Partition分区：

上传时，手工创建分区并保证质量，需指定分区。 使用insert数据时支持动态分区

MaxCompute SQL的约束

不支持事务 不支持主/外键 不支持索引 不支持Update/Delete

MaxCompute SQL的适用场景

MaxCompute SQL适用于海量数据（GB、TB、EB级别），离线批量计算的场合。 不适合直接对接需要每秒处理几千至数万笔事物的前台业务系统，因为不支持事物，响应时间会比较长 Maxcompute SQL的每个作业的准备，提交等阶段都要花费较长时间，因此实时性不高。

MaxCompute SQL的关键字

MaxCompute将SQL语句的关键字作为保留字。在对表、列或是分区命名时如果使用关键字，需给关键字价"符合进行转意，否则会报错。保留字不区分大小写。常见如下：
% & && 等。

MaxCompute SQL的类型转换

显示转换：指用cast将一种数据类型的值转换为另一种类型的值的行为。
隐式转换：是指依据上下文使用环境及类型转换规则自动进行的类型转换。

MaxCompute SQL的运算符

关系：< >
算术：+ -
位：&
逻辑：and or not

SQL Task介绍

MaxCompute SQL作业提交后，形成任务task，执行时形成任务实例instance，其执行过程自动调用Mapreduce。通过logview监控执行过程。

Mapreduce

MapReduce是面向大数据并行处理的计算模型、框架和平台，它隐含了以下三层含义：
1）MapReduce是一个基于集群的高性能并行计算平台。它允许用市场上普通的商用服务器构成一个包含数十、数百至数千个节点的分布和并行计算集群。
2）MapReduce是一个并行计算与运行软件框架。它提供了一个庞大但设计精良的并行计算软件框架，能自动完成计算任务的并行化处理，自动划分计算数据和计算任务，在集群节点上自动分配和执行任务以及收集计算结果，将数据分布存储、数据通信、容错处理等并行计算涉及到的很多系统底层的复杂细节交由系统负责处理，大大减少了软件开发人员的负担。
3）MapReduce是一个并行程序设计模型与方法。它借助于函数式程序设计语言Lisp的设计思想，提供了一种简便的并行程序设计方法，用Map和Reduce两个函数编程实现基本的并行计算任务，提供了抽象的操作和并行编程接口，以方便地完成大规模数据的编程和计算处理。
MaxCompute SQL的主要功能
1、支持各类运算符
2、通过DDL语句对表、分区以及视图进行管理
3、通过select语句查询表中的记录，通过where语句过滤表中的记录。
4、通过insert语句插入数据、更新数据
5、通过等值连接join操作，支持两张表的关联。支持多张小表的mapjoin。
6、支持通过内置函数和自定义函数来进行计算。
7、支持正则表达式。
正则表达式，又称规则表达式（英语：Regular Expression，在代码中常简写为regex、regexp或RE），计算机科学的一个概念。正则表达式通常被用来检索、替换那些符合某个模式(规则)的文本。

数据定义DDL

CREATE[EXTERNAL] table [IF NOT EXISTS] table_name
[(col_name data_type [COMMENT col_comment],…)]
[COMMENT table_comment]
[PARTITIONED BY (col_name data_type [COMMENT col_comment],…)]
[STORED BY StorageHandler] --仅为外部表
[WITH SERDEPROPERTIES(Options)] --仅限外部表
[LOCATION OSSLocation];--仅限外部表
[LIFECYCLE days] [AS select_statement];
CREATE TABLE [IF NOT EXISTS] table_name LIKE existing_table_name

创建表实例：

快捷建表操作-CTAS

快捷键建表操作-示例：

create table test4 like test3;
--除生命周期属性外，test3的其他属性（字段类型、分区类型）均与test4完全一致。
create table test5 as select * from test2;
--这个操作会创建test5，但分区，生命周期信息不会被拷贝到目标表中。另外操作还会将test2的数据复制到test5中。
添加/删除分区
add/drop

表的其他操作

视图

生命周期

数据操作DML

insert操作-更新表中数据

insert操作-更新动态分区表中的数据

多路输出（MULTIINSERT）

insert操作-values

select操作-查询语法

select操作-where条件

select-其他字句

select操作-子查询几种形式

select-union all

select-join

select操作-semi join半连接

select操作-map join hint

select操作-map join hint说明

select操作-CTE

内置函数Build-in Function

值函数

数据运算函数

字符串处理函数

日期类型处理函数

窗口函数

聚合函数

其他函数