基于Kubernetes的云上机器学习—GPU弹性扩缩容

前言

在深度学习中，要使用大量GPU进行计算。 而GPU往往价格不菲，随着模型变得越复杂，数据量积累，进行深度学习计算需要耗费极大的经济和时间成本。

解决方案

阿里云容器服务提供的深度学习解决方案，基于Kubernetes为核心，支持cluster-autoscaler 进行节点弹性扩缩容。除了CPU，Memory 等基础指标外，还可以以GPU资源维度进行节点弹性扩缩容。
在深度学习常场景里，我们可以实现以下目标：

1. 当出现计算高峰，集群中存量的GPU计算资源不满足需求时， 自动按需求使用量弹出实例，加入到集群中。及时应对资源不足。
2. 当计算任务完成，autoScaler 发现弹出的节点GPU资源闲置，我们能够及时回收闲置的GPU节点，节省成本。

如何使用

前提

需要您已创建好容器服务 Kubernetes集群。 您可以选择经典版Kubernetes