您现在的位置是：首页 > 文章详情

本地 IDC 中的 K8s 集群如何以 Serverless 方式使用云上计算资源

日期：2023-07-26点击：105收藏

在前一篇文章《应对突发流量，如何快速为自建 K8s 添加云上弹性能力》中，我们介绍了如何为 IDC 中 K8s 集群添加云上节点，应对业务流量的增长，通过多级弹性调度，灵活使用云上资源，并通过自动弹性伸缩，提高使用率，降低云上成本。

这种直接添加节点的方式，适合需要自定义配置节点（runtime，kubelet，NVIDIA 等），需要特定 ECS 实例规格等场景。同时，这种方式意味您需要自行维护云上节点池。

如果您不想维护云上节点池，您可以选择 Serverless 方式使用阿里云 ECI 弹性容器实例运行业务 Pod，更加高效弹性的使用云上 CPU/GPU 资源。

概述

通过 Serverless 方式使用云上计 CPU/GPU 资源，针对的问题依然是 IDC 中 K8s 集群的弹性能力不足，不能满足业务的快速增长、周期性业务增长和突发业务流量。

通过 Serverless 方式，可以在 K8s 集群直接提交业务 Pod，Pod 将使用阿里云 ECI 弹性容器实例运行，ECI 弹性容器实例启动速度快，与业务 Pod 的生命周期一致，按 Pod 运行时间计费。从而不需要为 IDC 中 K8s 集群创建云上节点，不需要规划云上资源容量，不需要等待 ECS 创建完成，实现了极致弹性，并节省了节点运维成本。

IDC 中 K8s 集群以 Serverless 方式使用云上 CPU/GPU 资源，适合以下业务场景：

在线业务的波峰波谷弹性伸缩：如在线教育、电商等行业有着明显的波峰波谷计算特征。使用 Serverless ECI 可以显著减少固定资源池的维护，降低计算成本。
数据计算：使用 Serverless ECI 承载 Spark、Presto、ArgoWorkflow 等计算场景，按 Pod 运行时间计费，有效降低计算成本。
CI/CD Pipeline：Jenkins、Gitlab-Runner。
Job 任务：定时任务、AI。

演示-IDC 中 K8s 集群以 Serverless 方式使用云上资源

1. 前提条件

已经通过 ACK One 注册机群接入 IDC 中 K8s 集群，参见《选对方法，K8s 多集群管理没那么难》。

2. 安装 ack-virtual-node 组件

通过 ACK One 注册集群控制台安装 ack-virtual-node 组件，安装组件后，通过注册集群 kubeconfig 查看集群节点池。virtual-kubelet 为虚拟节点，对接阿里云 Serverless ECI。

 kubectl get node NAME STATUS ROLES AGE VERSION iz8vb1xtnuu0ne6b58hvx0z Ready master 4d3h v1.20.9 //IDC集群节点，示例只有1个master节点，同时也是worker节点，可以运行业务容器 virtual-kubelet-cn-zhangjiakou-a Ready agent 99s v1.20.9。//安装ack-virtual-node组件生产的虚拟节点

3. 使用 Serverless ECI 运行 Pod（CPU/GPU 任务）

方式一：配置 Pod 标签，为 Pod 添加标签 http://alibabacloud.com/eci=true，Pod 将以 Serverless ECI 方式运行。示例中，使用 GPU ECI 实例运行 CUDA 任务，您不需要安装配置 NVIDIA driver 和 runtime，真正做到 Serverless 化运行。

a. 提交 Pod，使用 Serverless ECI 运行。

 > cat <<EOF | kubectl apply -f - apiVersion: v1 kind: Pod metadata: name: gpu-pod labels: alibabacloud.com/eci: "true" # 指定Pod使用Serverless ECI运行 annotations: k8s.aliyun.com/eci-use-specs: ecs.gn5-c4g1.xlarge # 指定支持的GPU规格，该规格具备1个NVIDIA P100 GPU spec: restartPolicy: Never containers: - name: cuda-container image: acr-multiple-clusters-registry.cn-hangzhou.cr.aliyuncs.com/ack-multiple-clusters/cuda10.2-vectoradd resources: limits: nvidia.com/gpu: 1 # 申请1个GPU EOF

b. 查看 Pod，Pod 运行在虚拟节点 virtual-kubelet 上，实际后台使用阿里云 Serverless ECI 运行。

 > kubectl get pod -o wide NAME READY STATUS RESTARTS AGE IP NODE NOMINATED NODE READINESS GATES gpu-pod 0/1 Completed 0 5m30s 172.16.217.90 virtual-kubelet-cn-zhangjiakou-a <none> <none> > kubectl logs gpu-pod Using CUDA Device [0]: Tesla P100-PCIE-16GB GPU Device has SM 6.0 compute capability [Vector addition of 50000 elements] Copy input data from the host memory to the CUDA device CUDA kernel launch with 196 blocks of 256 threads Copy output data from the CUDA device to the host memory Test PASSED Done

方式二：设置命名空间标签

为命名空间设置标签 http://alibabacloud.com/eci=true，命名空间中所有新建 pod，将以 Serverless ECI 方式运行。

 kubectl label namespace <namespace-name> alibabacloud.com/eci=true

4. 多级弹性调度

上面的演示中，我们通过设置 Pod 或者命名空间的标签以使用 Serverless ECI 运行 Pod。如果您期望应用运行过程中优先使用 IDC 中的节点资源运行 Pod，当 IDC 资源不足时，再使用阿里云 Serverless ECI 运行 Pod。您可以使用 ACK One 注册集群的多级弹性调度，通过安装 ack-co-scheduler 组件，您可以定义 ResourcePolicy CR 对象，使用多级弹性调度功能。

ResourcePolicy CR 是命名空间资源，重要参数解析：

selector：声明 ResourcePolicy 作用于同一命名空间下 label 上打了 key1=value1 的 Pod
strategy：调度策略选择，目前只支持 prefer
units：用户自定义的调度单元。应用扩容时，将按照 units 下资源的顺序选择资源运行；应用缩容时，将按照逆序进行缩容
- resource：弹性资源的类型，目前支持 idc、ecs 和 eci 三种类型
- nodeSelector：用 node 的 label 标识该调度单元下的节点，只对 ecs 资源生效
- max：在该组资源最多部署多少个实例

步骤如下：

1) 定义 ResourcePolicy CR，优先使用 IDC 中集群资源，再使用云上 Serverless ECI 资源。

 > cat << EOF | kubectl apply -f - apiVersion: scheduling.alibabacloud.com/v1alpha1 kind: ResourcePolicy metadata: name: cost-balance-policy spec: selector: app: nginx // 选择应用Pod strategy: prefer units: - resource: idc //优先使用idc指定使用IDC中节点资源 - resource: eci //当idc节点资源不足时，使用Serverless ECI EOF

2) 创建应用 Deployment，启动 2 个副本，每个副本需要 2 个 CPU。

 > cat << EOF | kubectl apply -f - apiVersion: apps/v1 kind: Deployment metadata: name: nginx labels: app: nginx spec: replicas: 2 selector: matchLabels: app: nginx template: metadata: name: nginx annotations: addannotion: "true" labels: app: nginx # 此处要与上一步创建的ResourcePolicy的selector相关联。 spec: schedulerName: ack-co-scheduler containers: - name: nginx image: acr-multiple-clusters-registry.cn-hangzhou.cr.aliyuncs.com/ack-multiple-clusters/nginx resources: requests: cpu: 2 limits: cpu: 2 EOF

3) 执行以下命令对应用扩容 4 个副本，IDC 中 K8s 集群只有一个 6CPU 节点，最多启动 2 个 nginx pods（系统资源预留，无法启动 3 个 pod）。剩余的 2 个副本在 IDC 节点资源不足后，自动使用阿里云 Serverless ECI 运行 Pods。

 kubectl scale deployment nginx --replicas 4

4) 查看 Pod 运行情况，2 个 Pod 运行在 IDC 中的节点，2 个 Pod 使用虚拟节点在阿里云 Serverless ECI 上运行。

 > kubectl get pod -o widek get pod -o wideNAME READY STATUS RESTARTS AGE IP NODE nginx-79cd98b4b5-97s47 1/1 Running 0 84s 10.100.75.22 iz8vb1xtnuu0ne6b58hvx0z nginx-79cd98b4b5-gxd8z 1/1 Running 0 84s 10.100.75.23 iz8vb1xtnuu0ne6b58hvx0z nginx-79cd98b4b5-k55rb 1/1 Running 0 58s 10.100.75.24 virtual-kubelet-cn-zhangjiakou-anginx-79cd98b4b5-m9jxm 1/1 Running 0 58s 10.100.75.25 virtual-kubelet-cn-zhangjiakou-a