![]()
文 @ 不愿透露姓名的小 P 同学
0 前言
本次分享是大规模训练技术系列的第一篇，主要包括两个部分：
1 大规模训练技术的意义
1.1 训练的精度极限
深度学习发展历程中，模型精度提升主要依赖神经网络在结构上的变革。
例如，从 AlexNet 到 ResNet50，再到 NAS 搜索出来的 EfficientNet，ImageNet Top-1 精度从 58 提升到了 84。
但是，随着神经网络结构设计技术逐渐成熟并趋于收敛，想要通过优化神经网络结构来打破精度局限是非常困难的。
1.2 数据与模型规模对精度的影响
近年来，随着数据规模和模型规模的不断增大，模型精度也得到了进一步提升。一系列研究实验表明，从大模型与大数据入手提高模型精度是可行的。
一般的，构造大模型可以通过在现有的模型结构上进行加宽、加深、拼接得到。
更多的 featuremap 意味着更强的学习能力，因此对比相同结构的小模型，大模型有着更好的精度。以 Google 的 Big Transfer (BiT): General Visual Representation Learning[1]中的实验为例：
![]()
图中，在 ILSVRC-2012 数据集上训练不同规模的模型，精度能从 ResNet50（2600万参数）的 77%，提升到 ResNet152x4（2.4亿参数）的 81.3%，精度提升 4.3%。
类似的，扩大数据规模也能带来精度提升，如使用 ILSVRC-2012（128万张图片，1000个类别）和 JFT-300M（3亿张图片，18291个类别）两个数据集来训练 ResNet50，精度分别为 77% 和 79%。
可以发现，单独使用大数据集或者是大模型，均能带来一定的精度提升。
这些精度提升看起来比较有限，甚至在一些 case 下几乎没有提升，但是当我们同时使用大模型和大数据集时，则会有明显的突破。还是在上图中，使用 JFT-300M 训练 ResNet152x4，精度可以上升到 87.5%，相比 ILSVRC-2012+ResNet50 提升了 10.5%。
NLP 领域的大规模训练发展快速，从 BERT 到 GPT-3，再到 Switch Transformer，无论是模型大小还是计算资源占用都在疾速增长。规模大到什么程度呢？GPT-3 的参数量达到了 1750 亿，训练数据超过了 45TB，需要的算力 (flops) 是 BERT 的 1900 多倍，3.14E23 FLOPS。
换句话说，即使是在理论情况下（算力利用率 100%），使用单卡完整训练 GPT-3 也需要 V100 训练 355 年[4]。
目前 CNN 领域的模型参数规模普遍还在 1 亿以内。例如 EfficientNet-B7 也不过 6000 万参数。
但最新研究中，CNN 大模型也开始不断涌现。如 ResNeXt WSL（8亿参数）、GPipe（6亿参数），Google 也通过 EfficientNet-L2（4.8 亿参数）与未公开的 JFT-300M 数据集刷新了 ImageNet 的榜单，Top-1 Acc 首次突破 90。
可以看出，模型和数据规模的增大确实能突破现有的精度局限。
1.3 从分布式训练到大规模训练
模型和数据规模的增大意味着训练时间的增长。为了提升模型训练的速度，可以增加计算资源来缩短训练时间，于是出现了分布式训练。
简单来说，分布式训练实质就是将单卡的负载拆到了多卡上。
- 数据并行：通过修改 Sampler 切分输入，每张卡只需要处理一部分数据；
- 模型并行：通过修改层内的计算方式，将单层的计算负载和显存负载切分到多张卡上；
- 流水并行：将不同的层放到不同的卡上，进而将计算负载和显存负载切分至多张卡上。
通过对负载进行切分，分布式训练减少了单卡的负载，一方面大大提升了训练任务的吞吐量（切分计算负载），另一方面使得原本单卡无法训练的任务变得可能（切分显存负载）。
这里基于一个数据并行的例子进行更细致的分析：
假设深度学习模型，参数足够量小，能够放到单张 GPU 上；但是由于训练数据集相当大，所以整体任务的计算量非常大。
此时，数据并行的作用就可以体现了：对于这些深度学习训练来说，直接增大数据并行的计算资源是比较有效的，投入数倍的计算资源基本上能获取到相应的加速倍数。
但是随着训练数据集进一步增大，数据并行就会出现一些局限性：
当训练资源扩大到一定规模时（比如说上百卡），由于通信瓶颈的存在，添加资源的边际效应就会越来越明显，甚至增加再多资源都无法再加速。
更系统来说，随着数据和模型的不断增大，会触碰到两方面的问题。大数据和大模型所产生的显存墙问题（模型是否能跑起来）以及计算墙（能否在合理时间内完成训练）问题，使得普通的分布式训练不再适用于此类任务。
- 显存墙：单卡无法直接装下模型，模型无法直接训起来。为了能够将模型运行起来，需要使用模型并行、流水并行等技术，但是这些技术会降低 GPU 的运算强度。
- 计算墙：大数据+大模型意味着巨大的计算量，而由于显存墙的缘故，这时不仅单卡的运算强度低，多卡的加速比 (scale factor) 也非常差，事实就是，就算花钱加再多资源也可能训不完。
此时，需要引入大规模训练技术。
大规模训练技术在解决显存墙的同时，也不会被计算墙给拦住，以实现高效训练。
2 大规模训练的技术挑战
相比普通的分布式训练，大规模训练技术考虑的问题更加复杂：
- 首先，面对单卡无法装载的大模型，如何利用多卡来突破显存瓶颈是个问题；
- 其次，大规模训练会用到大量的计算资源，大量计算资源间如何通信、协作是另一个难题；
- 最后，如何 balance 各类层出不穷的大规模训练技术，使得众多技术形成一个完整高效的训练方案，更是一大学问。
本系列中，将大规模训练技术面临的挑战分为三部分：显存、通信和计算，每部分都会有对应文章进行详细介绍。
其中，显存部分主要阐述大规模训练中如何解决显存墙问题，其它两部分则是为了解决计算墙问题。
2.1 大规模训练之显存挑战
大模型训练最先遇到的问题就是显存墙。
事实上，在进行 ResNeSt269（1亿参数）的 ImageNet 训练时，显存就已经逼近了 V100 32GB 的上限，训练占用达到了 28GB（注：Batch size 为 16，Input size 为 416×416）。当模型进一步加大，或者加大 Batch size 后，模型训练的显存占用也会随之增长，最后高于显卡的显存容量，触碰到了显存墙，模型无法训练。
要理解显存墙问题的本质，就需要了解显存增长的本质。下图是 ResNeSt269 在 1 轮迭代间的显存占用变化：
![]()
- Forward 开始后，显存占用不断飙升，在 Forward 结束后达到峰值 28GB。
- Forward 结束，Backward 开始后，显存占用不断下降，在 Backward 结束后为 1.2GB。
- Backward 结束后，仍有一部分显存驻留在显卡中，大小保持在 1.2GB。
从图中可以分析出一些有趣的信息：
第一，可以发现，模型训练对显存的占用可以分为两部分：一部分是模型 forward 时保存下来的临时变量，这部分显存会在反向传播时会逐渐释放掉，这部分一般被称为 Activations。另一部分则是参数、梯度等状态信息占用的显存，这部分一般被称为 Model States。
第二，Forward 结束后的显存占用峰值时刻决定了是否会碰到显存墙。降低其余部分的显存占用没有意义，关键在于削低峰值。
接下来具体介绍一下峰值时的 Model states 和 Activations。
2.1.1 Model states
虽然在 ResNeSt269 的 case 里 Model states 仅占用了 1.2GB。但也要考虑到 ResNeSt269 仅 1 亿参数，和当前存在的大模型相比还相差甚远。
但实际上大模型 Model states 的占用非常恐怖，通过以下公式就能够感受到这一点。
P：模型参数量，单位为Billion
当优化器是 SGD 时，占用大小为：
MS_FP16 = 2P（FP16参数）+2P（FP16梯度）+8P（FP32的参数、动量） = 12P
MS_FP32 = 12P（FP32的参数、动量、梯度） = 12P
当优化器是 ADAM 时，占用大小为：
MS_FP16 = 2P（FP16参数)+2P（FP16梯度）+12P(FP32的参数、动量、variances) = 16P
MS_FP32 = 16P（FP32的参数、动量、梯度、variances） = 16P
SGD 下，MS_FP32_ResNeSt269 = 0.1 * 12 = 1.2 GB
ADAM 下，MS_FP16_GPT-3 = 170 * 16 = 2720 GB
因此，一张 V100 32GB 最多能放下参数量为 20+ 亿的模型。不过就算能放下模型，也没有意义，因为已经没有剩余显存留给 Activations 了。
![]()
2.1.2 Activations
![]()
Activations 一般指的是用于 autograd 的中间变量。如上表[3]中的Forward Output、Output Gradient 以及 cuDNN Workspace。
因为深度神经网络层数非常多，而每一层的 Forward Output 都需要保存下来给 Backward 用，由此累积下来会造成巨大的内存开销。从 ResNeSt269 中的 case 我们也可以大致看出，Activations 的占用要远远大于 Model States（1.2GB vs 26.8GB）。
事实正是如此，CNN 模型中的 Activations 占了显存的大头， Activations 对 CNN 模型来说是一个非常棘手的问题。
而另一类模型：Transformer 模型的情况则相对更好。原因主要在于 Transformer 中的内部运算以大矩阵乘居多，而大矩阵乘可以拆分做模型并行（CNN 的模型并行非常难），大大减少了 Activations 的占用。
这也是为什么近年来基于 Transformer 的大模型层出不穷，很快模型规模就到了千亿级别，而基于 CNN 的大模型还在亿级。
Model states 和 Activations 都有可能造成显存墙问题。它们相互独立但又相互制约。任意一侧的增大都会导致留给另一侧的显存空间变小，所以单单对一侧做优化是不够的，必须同时优化 Model states 和 Activations。
2.2 大规模训练之通信挑战
在进行分布式训练时，我们对神经网络进行了各种各样的切分，但是神经网络的训练任务仍是一个整体。因此，切分需要通信来进行聚合。
聚合所产生的通信需求隐含了不少问题。首先，深度学习迭代式训练的特性导致更新频繁，需要大量的交换局部更新。但是，目前网络的传输速率远远不能匹配 GPU 或 TPU 这种专用加速芯片的运算速率。
有的朋友可能会问，不能直接用更大的带宽来解决这些问题吗？
答案是 NO！。直接增加通信带宽并不是一个有效的解决方案[2]：
![]()
从图中可以看出，随着带宽增大，带宽利用率将越来越低，高带宽的增益非常有限。实际上，其根本原因在于网络协议栈——网络协议栈的开销导致了训练无法有效利用带宽。幸好，我们能够通过一些方法（会在对应文章中详细阐述）解决掉这部分开销。
但是，即使解决了协议栈的开销，面对大规模的训练任务时，仍然会出现一些新的问题：
- 随着机器规模的扩大，基于 Ring-AllReduce 的通信聚合方式所构造的 Ring 将越来越大，延迟将不可接受。
- 模型规模的扩大也造成了通信量的剧烈增长：
- 模型变大导致所需通信的梯度变多，带宽还是扛不住；
- 为了训练大模型而引入的模型并行、流水并行等大大增加了通信压力。
- 目前普遍采用了同步的通信步调，成百上千卡频繁的进行同步非常容易出现水桶效应，导致单卡上的波动以及单次通信的延迟被疯狂放大。
总的来说，大规模深度学习中的通信瓶颈不单单是通信量大造成的，更多的是复杂的系统问题，还需要从分布式训练架构、通信策略等多方面来考虑解决。
2.3 大规模训练之计算挑战
大模型+大数据不仅带来了极高的算力需求，同时也在引入各项技术的同时降低了计算资源的利用率。在我们的一项内部实验中，优化前使用 128 卡进行 25 亿参数量 CNN 模型训练的耗时预估达到了 473.8 天。
虽然算力挑战本质来源于大规模训练任务庞大的算力需求，但是一般来说，我们无法直接减少任务的算力需求，因此只能从提高计算效率来考虑。
计算效率问题自底向上可以分为 Operator-level、Graph-level 以及 Task-level 三个层面。
2.3.1 Operator-level
Operator-level 可以理解为算子级别的优化。
大规模训练中的 Operator-level 问题与单卡训练类似。
如：
- 小算子过多；
- Kernel 实现不够高效；
- 内存局部性差。
2.3.2 Graph-level
Graph-level 指的是如何对计算图进行优化，进而加速大规模训练。
如：
- 如何搜索出计算效率更高的计算图；
- 如何用计算编译技术解决小算子问题；
- 如何进行通信和计算的 overlap 等。
2.3.3 Task-level
可以理解为训练阶段的系统设计。
与传统训练不同，在包含大规模训练技术的训练系统设计时，不仅要考虑到庞大的节点数，也要考虑到在解决显存、通信问题时带来的系统层面的变化。因此，Task-level 的关键挑战在于，如何给出一个最终计算效率最高的系统设计。
如：
- 采用何种分布式训练架构，才能使得大规模训练具备良好的拓展性。在节点数很多时仍能保持较好的加速比（scale factor）；
- 如何 balance 显存优化与速度优化。
所以，大规模训练中的算力问题是一个综合问题，无法用单一的技术进行解决，而是需要一个整体的解决方案。这个解决方案不仅需要拥有足够的计算资源，也依赖于深度学习框架的运行效率，以及对各项大规模训练优化的 trade off。
References
[1]: Kolesnikov A, Beyer L, Zhai X, et al. Big transfer (bit): General visual representation learning[J]. arXiv preprint arXiv:1912.11370, 2019, 6(2): 8.
[2]: Zhang, Zhen, et al. "Is network the bottleneck of distributed training?." Proceedings of the Workshop on Network Meets AI & ML. 2020.
[3]: Gao Y, Liu Y, Zhang H, et al. Estimating gpu memory consumption of deep learning models[C]//Proceedings of the 28th ACM Joint Meeting on European Software Engineering Conference and Symposium on the Foundations of Software Engineering. 2020: 1342-1352.
[4]: OpenAI's GPT-3 Language Model: A Technical Overview
感谢阅读，欢迎在评论区留言讨论哦~
P.S. 如果喜欢本篇文章，请多多 点赞，让更多的人看见我们 :D
关注 公众号「SenseParrots」，获取人工智能框架前沿业界动态与技术思考。
