首页 文章 精选 留言 我的

与容器服务 ACK 发行版的深度对话最终弹：如何通过 open-local 玩转容器本地存储

2022-03-23 470

记者： 各位阿里巴巴云原生的读者朋友们大家好，又跟大家见面了。今天是我们的老朋友『阿里云容器服务 ACK 发行版』最后一次做客探究身世之谜系列专栏，在之前的访谈中，它为我们带来了精彩的讲解，感兴趣的朋友们欢迎回顾。我们了解到，从去年 12 月上线至今，容器服务 ACK 发行版受到了大家的关注与支持，也取得了不错的下载量，对此您有什么看法吗？

阿里云容器服务 ACK 发行版（简称ACK Distro）： 是的，上线三个月以来有幸获得 400+的下载量，也通过不同途径与大家交流技术，感谢大家的关注，希望你们获得更好的容器服务体验。

记者： 好的，那让我们进入正题吧~之前了解到 sealer 可以帮助您快速构建&部署，hybridnet 可以助力构建混合云统一网络平面，那么今天为我们介绍的是哪位多才多艺的小伙伴呢？

ACK Distro： 我们都知道，云原生背景下有状态应用需要借助一套存储方案进行数据持久化保存。本地存储相比分布式存储，在成本、易用性、可维护性、IO 性能上都更胜一筹，所以今天给大家讲解的就是——阿里巴巴开源的本地存储管理系统 open-local，以及我是如何借助它玩转容器本地存储。先给大家交代一下 open-local 诞生的契机吧，虽然刚才提到本地存储相较于分布式存储的优势，但本地存储作为目前低成本交付 Kubernetes 集群，是依然存在许多问题的：

• Kubernetes 缺失存储资源的感知能力： 本地存储作为一种“非标”资源，在 Kubernetes 中的支持远低于标准资源（cpu、内存等）。使用本地存储需要一定的人力成本，如通过为节点打标来限制 Pod 调度、人工管理不同机型的磁盘、人工通过 Hostpath 方式挂载指定磁盘到容器等；同时还有一些私有化软件现场交付问题，如绑定了错误的宿主机路径使得故障无法及时发现，这些都严重影响了 Kubernetes 交付效率以及应用运行时的稳定性；

• 本地存储空间隔离能力缺失： 应用挂载不适当的宿主机目录（如挂载到宿主机根路径）导致宿主机故障，如因应用数据写满磁盘导致容器运行时无响应、触发 Pod 驱逐、Pod 之间 IO 相互影响等问题；

• Kubernetes 对有状态应用使用本地存储支持不足： 通过 Hostpath 无法做到节点保持，使得 Pod 漂移后应用数据丢失；使用半自动静态 Local PV 可保证节点保持，但是无法实现全自动，仍需要人为参与（如创建文件夹路径，为节点打标等）；无法使用一些高级存储能力（例如快照）。

而 open-local 可以最大程度上避免这些问题，让大家获得更好的体验，在 Kubernetes 上使用本地存储就像使用集中式存储一样简单。

open-local 的架构组成

记者： 您可以进一步为我们讲解下 open-local 的架构组成部分吗？

ACK Distro： 当然，open-local 一共包含四个组件：

1. scheduler-extender： 作为 kube-scheduler 的扩展组件，通过 Extender 方式实现，扩展了原生调度器对本地存储资源的感知，以实现对包括磁盘容量、多盘感知、磁盘介质（ssd or hdd）等信息的调度决策，做到存储资源的混合调度；

2. csi-plugin： 符合 CSI(Container Storage Interface) 标准的本地磁盘管理能力，包含创建/删除/扩容存储卷、创建/删除快照、暴露存储卷 metrics 等能力；

3. agent： 运行在集群中的每个节点，根据配置清单初始化存储设备，并通过上报集群中本地存储设备信息以供 scheduler-extender 决策调度；

4. controller： 获取集群存储初始化配置，并向运行在各个节点的 agent 下发详细的资源配置清单。

同时 open-local 包含两个 CRD：

  1. NodeLocalStorage：open-local 通过 NodeLocalStorage 资源上报每个节点上的存储设备信息，该资源由 controller 创建，由每个节点的 agent 组件更新其 status。该 CRD 属于全局范围的资源。
  2. NodeLocalStorageInitConfig：open-local controller 可通过 NodeLocalStorageInitConfig 资源创建每个 NodeLocalStorage 资源。NodeLocalStorageInitConfig 资源中包含全局默认节点配置和特定节点配置，若节点的 node label 满足表达式则使用特定节点配置，否则使用默认配置。

它的架构图可以参照下面：

在这里插入图片描述

open-local 的使用场景

记者： 那么什么样的需求场景下大家会用到 open-local 呢？

ACK Distro： 我总结了以下几个使用案例，大家可以根据自己的情况对号入座。

  1. 应用期望数据卷具备容量隔离能力，避免出现诸如日志打满系统盘的情况；
  2. 应用需要大量本地存储并依赖节点保持，如 Hbase、etcd、ZooKeeper、ElasticSearch 等；
  3. 集群本地磁盘数量众多，希望通过调度器实现有状态应用的自动化部署；
  4. 通过存储快照能力为数据库类应用备份瞬时数据等。

如何在 ACK Distro 中使用 open-local

记者： 接下来又到老问题了，open-local 的优势怎么在您身上体现呢？或者您怎样使用 open-local 可以达到最佳实践呢？

ACK Distro： 我分类别为大家讲解吧~

1.初始化设置

首先确保环境中已经安装 lvm 工具，在安装部署我时会默认安装 open-local，编辑NodeLocalStorageInitConfig 资源，进行存储初始化配置。

# kubectl edit nlsc open-local

使用 open-local 要求环境中有 VG（VolumeGroup），若您的环境中已存在 VG 且有剩余空间，则可以配置在白名单中；若环境中没有 VG，您需要提供一个块设备名称供 open-local 创建 VG。

apiVersion: csi.aliyun.com/v1alpha1
kind: NodeLocalStorageInitConfig
metadata:
  name: open-local
spec:
  globalConfig: # 全局默认节点配置，初始化创建 NodeLocalStorage 时会填充到其 Spec 中
    listConfig:
      vgs:
        include: # VolumeGroup 白名单，支持正则表达式
        - open-local-pool-[0-9]+
        - your-vg-name # 若环境中已有 VG，可以写入白名单由 open-local 纳管
    resourceToBeInited:
      vgs:
      - devices:
        - /dev/vdc  # 若环境中没有 VG，用户需提供一个块设备
        name: open-local-pool-0 # 将块设备 /dev/vdc 初始化为名叫 open-local-pool-0 的 VG

NodeLocalStorageInitConfig 资源编辑完毕后，controller 和 agent 会更新所有节点的 NodeLocalStorage 资源。

2.存储卷动态供应

open-local 默认在集群中部署了一些存储类模板，我以 open-local-lvm、open-local-lvm-xfs 和 open-local-lvm-io-throttling 举例：

# kubectl get sc
NAME                           PROVISIONER            RECLAIMPOLICY   VOLUMEBINDINGMODE      ALLOWVOLUMEEXPANSION   AGE
open-local-lvm                 local.csi.aliyun.com   Delete          WaitForFirstConsumer   true                   8d
open-local-lvm-xfs             local.csi.aliyun.com        Delete          WaitForFirstConsumer   true                   6h56m
open-local-lvm-io-throttling   local.csi.aliyun.com   Delete          WaitForFirstConsumer   true

创建一个 Statefulset，该 Statefulset 使用 open-local-lvm 存储类模板。此时创建的存储卷文件系统为 ext4。若用户指定 open-local-lvm-xfs 存储模板，则存储卷文件系统为 xfs。

# kubectl apply -f https://raw.githubusercontent.com/alibaba/open-local/main/example/lvm/sts-nginx.yaml

检查 Pod/PVC/PV 状态，可看到存储卷创建成功：

# kubectl get pod
NAME          READY   STATUS    RESTARTS   AGE
nginx-lvm-0   1/1     Running   0          3m5s
# kubectl get pvc
NAME               STATUS   VOLUME                                       CAPACITY   ACCESS MODES   STORAGECLASS     AGE
html-nginx-lvm-0   Bound    local-52f1bab4-d39b-4cde-abad-6c5963b47761   5Gi        RWO            open-local-lvm   104s
# kubectl get pv
NAME                                         CAPACITY   ACCESS MODES   RECLAIM POLICY   STATUS   CLAIM                      STORAGECLASS    AGE
local-52f1bab4-d39b-4cde-abad-6c5963b47761   5Gi        RWO            Delete           Bound    default/html-nginx-lvm-0   open-local-lvm  2m4s
kubectl describe pvc html-nginx-lvm-0

3.存储卷扩容

编辑对应 PVC 的 spec.resources.requests.storage 字段，将 PVC 声明的存储大小从 5Gi 扩容到 20Gi。

# kubectl patch pvc html-nginx-lvm-0 -p '{"spec":{"resources":{"requests":{"storage":"20Gi"}}}}'

检查 PVC/PV 状态：

# kubectl get pvc
NAME                    STATUS   VOLUME                                       CAPACITY   ACCESS MODES   STORAGECLASS     AGE
html-nginx-lvm-0        Bound    local-52f1bab4-d39b-4cde-abad-6c5963b47761   20Gi       RWO            open-local-lvm   7h4m
# kubectl get pv
NAME                                         CAPACITY   ACCESS MODES   RECLAIM POLICY   STATUS   CLAIM                           STORAGECLASS     REASON   AGE
local-52f1bab4-d39b-4cde-abad-6c5963b47761   20Gi       RWO            Delete           Bound    default/html-nginx-lvm-0        open-local-lvm            7h4m

4.存储卷快照

open-local 有如下快照类：

# kubectl get volumesnapshotclass
NAME             DRIVER                DELETIONPOLICY   AGE
open-local-lvm   local.csi.aliyun.com   Delete           20m

创建 VolumeSnapshot 资源：

# kubectl apply -f https://raw.githubusercontent.com/alibaba/open-local/main/example/lvm/snapshot.yaml
volumesnapshot.snapshot.storage.k8s.io/new-snapshot-test created
# kubectl get volumesnapshot
NAME                READYTOUSE   SOURCEPVC          SOURCESNAPSHOTCONTENT   RESTORESIZE   SNAPSHOTCLASS    SNAPSHOTCONTENT                                    CREATIONTIME   AGE
new-snapshot-test   true         html-nginx-lvm-0                           1863          open-local-lvm   snapcontent-815def28-8979-408e-86de-1e408033de65   19s            19s
# kubectl get volumesnapshotcontent
NAME                                               READYTOUSE   RESTORESIZE   DELETIONPOLICY   DRIVER                VOLUMESNAPSHOTCLASS   VOLUMESNAPSHOT      AGE
snapcontent-815def28-8979-408e-86de-1e408033de65   true         1863          Delete           local.csi.aliyun.com   open-local-lvm        new-snapshot-test   48s

创建一个新 Pod，该 Pod 对应的存储卷数据与之前应用快照点时刻的数据一致：

# kubectl apply -f https://raw.githubusercontent.com/alibaba/open-local/main/example/lvm/sts-nginx-snap.yaml
service/nginx-lvm-snap created
statefulset.apps/nginx-lvm-snap created
# kubectl get po -l app=nginx-lvm-snap
NAME               READY   STATUS    RESTARTS   AGE
nginx-lvm-snap-0   1/1     Running   0          46s
# kubectl get pvc -l app=nginx-lvm-snap
NAME                    STATUS   VOLUME                                       CAPACITY   ACCESS MODES   STORAGECLASS     AGE
html-nginx-lvm-snap-0   Bound    local-1c69455d-c50b-422d-a5c0-2eb5c7d0d21b   4Gi        RWO            open-local-lvm   2m11s

5.原生块设备

open-local 支持创建的存储卷将以块设备形式挂载在容器中（本例中块设备在容器 /dev/sdd 路径）:

# kubectl apply -f https://raw.githubusercontent.com/alibaba/open-local/main/example/lvm/sts-block.yaml

检查 Pod/PVC/PV 状态：

# kubectl get pod
NAME                READY   STATUS    RESTARTS   AGE
nginx-lvm-block-0   1/1     Running   0          25s
# kubectl get pvc
NAME                     STATUS   VOLUME                                       CAPACITY   ACCESS MODES   STORAGECLASS     AGE
html-nginx-lvm-block-0   Bound    local-b048c19a-fe0b-455d-9f25-b23fdef03d8c   5Gi        RWO            open-local-lvm   36s
# kubectl describe pvc html-nginx-lvm-block-0
Name:          html-nginx-lvm-block-0
Namespace:     default
StorageClass:  open-local-lvm
...
Access Modes:  RWO
VolumeMode:    Block # 以块设备形式挂载入容器
Mounted By:    nginx-lvm-block-0
...

6.IO 限流

open-local 支持为 PV 设置 IO 限流，支持 IO 限流的存储类模板如下：
apiVersion: storage.k8s.io/v1
kind: StorageClass
metadata:
  name: open-local-lvm-io-throttling
provisioner: local.csi.aliyun.com
parameters:
  csi.storage.k8s.io/fstype: ext4
  volumeType: "LVM"
  bps: "1048576" # 读写吞吐量限制在 1024KiB/s 上下
  iops: "1024"   # IOPS 限制在 1024 上下
reclaimPolicy: Delete
volumeBindingMode: WaitForFirstConsumer
allowVolumeExpansion: true

创建一个 Statefulset，该 Statefulset 使用 open-local-lvm-io-throttling 存储类模板。

# kubectl apply -f https://raw.githubusercontent.com/alibaba/open-local/main/example/lvm/sts-io-throttling.yaml

Pod 处于 Running 状态后，进入 Pod 容器中：

# kubectl exec -it test-io-throttling-0 sh

此时存储卷是以原生块设备挂载在 /dev/sdd 上，执行 fio 命令：

# fio -name=test -filename=/dev/sdd -ioengine=psync -direct=1 -iodepth=1 -thread -bs=16k -rw=readwrite -numjobs=32 -size=1G -runtime=60 -time_based -group_reporting

结果如下所示，可见读写吞吐量限制在 1024KiB/s 上下：

......
Run status group 0 (all jobs):
   READ: bw=1024KiB/s (1049kB/s), 1024KiB/s-1024KiB/s (1049kB/s-1049kB/s), io=60.4MiB (63.3MB), run=60406-60406msec
  WRITE: bw=993KiB/s (1017kB/s), 993KiB/s-993KiB/s (1017kB/s-1017kB/s), io=58.6MiB (61.4MB), run=60406-60406msec
Disk stats (read/write):
    dm-1: ios=3869/3749, merge=0/0, ticks=4848/17833, in_queue=22681, util=6.68%, aggrios=3112/3221, aggrmerge=774/631, aggrticks=3921/13598, aggrin_queue=17396, aggrutil=6.75%
  vdb: ios=3112/3221, merge=774/631, ticks=3921/13598, in_queue=17396, util=6.75%

7.临时卷

open-local 支持为 Pod 创建临时卷，其中临时卷生命周期与 Pod 一致，即 Pod 删除后临时卷也随之删除。此处可理解为 open-local 版本的 emptydir。

# kubectl apply -f ./example/lvm/ephemeral.yaml

其结果如下：

# kubectl describe po file-server
Name:         file-server
Namespace:    default
......
Containers:
  file-server:
    ......
    Mounts:
      /srv from webroot (rw)
      /var/run/secrets/kubernetes.io/serviceaccount from default-token-dns4c (ro)
Volumes:
  webroot:   # 此为 CSI 临时卷
    Type:              CSI (a Container Storage Interface (CSI) volume source)
    Driver:            local.csi.aliyun.com
    FSType:
    ReadOnly:          false
    VolumeAttributes:      size=2Gi
                           vgName=open-local-pool-0
  default-token-dns4c:
    Type:        Secret (a volume populated by a Secret)
    SecretName:  default-token-dns4c
    Optional:    false

8.监控大盘

open-local 自带了监控大盘，用户可通过 Grafana 查看集群本地存储信息，包含存储设备和存储卷信息。如下图所示：

ACK Distro：总而言之，借助 open-local ，在运维方面可减少人力成本，提高集群运行时的稳定性；功能方面，将本地存储的优势最大化，使用户不仅能体验到本地盘的高性能，同时各种高级存储特性丰富了应用场景，让广大开发者体验云原生带来的红利，实现应用上云尤其是有状态应用云原生部署关键一步。

记者： 感谢 ACK Distro 的精彩讲解，这三次的做客让我们对它和它的小伙伴都有了更深入的了解，也希望访谈内容能为正在阅读文章的您提供一些帮助。

ACK Distro： 是的，我和项目组成员在 GitHub 社区和社群欢迎大家的“骚扰”！

相关链接

[1]open-local 开源仓库地址： https://github.com/alibaba/open-local [2]ACK Distro 官网： https://www.aliyun.com/product/aliware/ackdistro [3]ACK Distro 官方 GitHub： https://github.com/AliyunContainerService/ackdistro [4]让创新触手可及，阿里云容器服务 ACK 发行版开放免费下载：https://mp.weixin.qq.com/s/Lc2afj91sykHMDLUKA_0bw [5]第一弹深度访谈： https://mp.weixin.qq.com/s/wB7AS52vEA_VeRegUyrVkA [6]第二弹深度访谈： https://mp.weixin.qq.com/s/O095yS5xPtawkh55rvitTg

上一篇 下一篇
优秀的个人博客,低调大师

微信关注我们

原文链接：https://my.oschina.net/u/3874284/blog/5496103

转载内容版权归作者及来源网站所有！

低调大师中文资讯倾力打造互联网数据资讯、行业资源、电子商务、移动互联网、网络营销平台。持续更新报道IT业界、互联网、市场资讯、驱动更新,是最及时权威的产业资讯及硬件资讯报道平台。

您有多点会员吗——数据库渐进式创新助力多点稳步推进经营大脑实践

嘀……“请问您有多点会员吗？” 对于经常去物美、麦德龙等大型连锁超市的人来说，扫码的嘀嘀声和随后的这句话应该是非常熟悉的。但作为专业的商超数字化系统供应商，多点所做的绝不只是收银这般简单。在全新业财一体战略的支撑下，多点的 Dmall OS 不仅是超市顾客每天都能用到的系统，也是 CFO 和 CEO 每天都会关注的系统。 业财一体为企业带来的美妙图景 多点是面向新零售的数字解决方案提供商，旗下的 Dmall OS 产品是统合了人、货、场的全场景云化解决方案，也是多点的拳头产品。以此为基础，多点的下一步则是为零售企业提供具备业财一体能力的经营大脑。 以往，企业需要通过大量基于场景和流程的业务应用来实现业务数字化，但与此同时，企业管理层更关心的财务数据却由运行逻辑、统计口径、统计方法完全不同的财务系统产生。这种业务与财务的相互脱节也使得企业很难快速掌握当期经营数据，无法通过及时的财务反馈来调整业务策略和经营方针。而所谓业财一体便是要打破两套系统之间的重重隔阂，让业务层面的变化直接反应在实时进行的财务统计当中，使企业在激烈的市场竞争中获得灵活的身段、矫健的身手。 从实现之后的效果来...
2022-03-23
427
上一篇

想让DBA瞬间崩溃，那就让他去做SQL性能优化

摘要：很多大数据计算都是用 SQL 实现的，跑得慢时就要去优化 SQL，但常常碰到让人干瞪眼的情况。 本文分享自华为云社区《做 SQL 性能优化真是让人干瞪眼》，作者： 石臻臻的杂货铺 。 很多大数据计算都是用 SQL 实现的，跑得慢时就要去优化 SQL，但常常碰到让人干瞪眼的情况。比如，存储过程中有三条大概形如这样的语句执行得很慢： select a,b,sum(x) from T group by a,b where …; select c,d,max(y) from T group by c,d where …; select a,c,avg(y),min(z) from T group by a,c where …; 这里的 T 是个有数亿行的巨大表，要分别按三种方式分组，分组的结果集都不大。 分组运算要遍历数据表，这三句 SQL 就要把这个大表遍历三次，对数亿行数据遍历一次的时间就不短，何况三遍。 这种分组运算中，相对于遍历硬盘的时间，CPU 计算时间几乎可以忽略。如果可以在一次遍历中把多种分组汇总都计算出来，虽然 CPU 计算量并没有变少，但能大幅减少硬盘读取数据量，就...
2022-03-23
495
下一篇

相关文章

发表评论

资源下载

更多资源
腾讯云软件源

腾讯云软件源

为解决软件依赖安装时官方源访问速度慢的问题，腾讯云为一些软件搭建了缓存服务。您可以通过使用腾讯云软件源站来提升依赖包的安装速度。为了方便用户自由搭建服务架构，目前腾讯云软件源站支持公网访问和内网访问。

时间: 2025-12-13 大小: 1MB 下载: 0次
Nacos

Nacos

Nacos /nɑ:kəʊs/ 是 Dynamic Naming and Configuration Service 的首字母简称，一个易于构建 AI Agent 应用的动态服务发现、配置管理和AI智能体管理平台。Nacos 致力于帮助您发现、配置和管理微服务及AI智能体应用。Nacos 提供了一组简单易用的特性集，帮助您快速实现动态服务发现、服务配置、服务元数据、流量管理。Nacos 帮助您更敏捷和容易地构建、交付和管理微服务平台。

时间: 2025-12-13 大小: 189MB 下载: 0次
Spring

Spring

Spring框架（Spring Framework）是由Rod Johnson于2002年提出的开源Java企业级应用框架，旨在通过使用JavaBean替代传统EJB实现方式降低企业级编程开发的复杂性。该框架基于简单性、可测试性和松耦合性设计理念，提供核心容器、应用上下文、数据访问集成等模块，支持整合Hibernate、Struts等第三方框架，其适用范围不仅限于服务器端开发，绝大多数Java应用均可从中受益。

时间: 2025-12-13 大小: 5MB 下载: 0次
Rocky Linux

Rocky Linux

Rocky Linux（中文名：洛基）是由Gregory Kurtzer于2020年12月发起的企业级Linux发行版，作为CentOS稳定版停止维护后与RHEL（Red Hat Enterprise Linux）完全兼容的开源替代方案，由社区拥有并管理，支持x86_64、aarch64等架构。其通过重新编译RHEL源代码提供长期稳定性，采用模块化包装和SELinux安全架构，默认包含GNOME桌面环境及XFS文件系统，支持十年生命周期更新。

时间: 2025-12-13 大小: 1.42GB 下载: 0次
手机查看

扫码在手机上查看文章

扫描二维码，手机阅读更方便

热门标签
DeepSeek Service Mesh Rocky Redis HarmonyOS6 SpringCloud Docker Jdk25 SpringBoot4 OpenAi Kubernetes Nacos3 Gemini3

欢迎您！

登录后，您将获得更多功能！

热门文章
联系我们

有任何问题或合作意向欢迎联系我们

Email: 99873273@qq.com

QQ: 99873273