赋能人工智能：Kubeflow VMware Distribution的发布-低调大师

赋能人工智能：Kubeflow VMware Distribution的发布

2023-09-12 369

在最近结束的VMware Explore 2023 拉斯维加斯大会上，VMware推出了新的 Private AI产品，以促进企业采用生成式人工智能并挖掘可信数据的价值。VMware 宣布了以下几点：

与 NVIDIA 合作推出 VMware Private AI Foundation，将两家公司的战略合作扩展到为运行 VMware 云基础架构的企业准备适应下一代生成式人工智能的能力。
推出 VMware Private AI 开源参考架构，通过支持当前和未来的最佳开源软件（OSS）技术，帮助客户实现他们期望的人工智能成果。

其中，VMware Private AI 开源参考架构（如下图所示）为客户和合作伙伴提供了灵活性，使他们能够：

利用最佳模型、框架、应用程序和数据服务、工具和适合其业务需求的硬件，基于标准化的VMware验证体系，实现快速、可重复、安全的部署。
通过利用完全记录的架构和相关代码示例以及通过消除系统设计、测试、启动、配置和供应过程中的复杂性，实现快速的交付价值。
在共同的本地云基础设施堆栈上运行所有AI工作负载，最大化资源利用率，从而提高投资回报率。
利用流行的开源项目，如 ray.io、Kubeflow、PyTorch、pgvector 以及Hugging Face 提供的模型。

Kubeflow专为在Kubernetes环境中进行机器学习工作而设计的开源机器学习平台，目前已被 CNCF 接受作为其孵化项目。它的主要功能如下：

提供一系列工具和组件，帮助用户更轻松地部署、管理和扩展机器学习工作负载。
帮助开发人员和数据科学家在容器化的环境中构建、训练和部署机器学习模型。
提供自动化的资源调度、监控和日志记录等功能，使机器学习任务更加高效和可管理性。
提供安全工作组、集成软件物料清单、基于Serviceaccount的身份验证、对大多数API进行身份验证以及加固lstio和网络策略等安全性特性。

许多 VMware 的客户已经在 vSphere 上投入了大量资源来运行关键应用程序，而如今他们希望将 vSphere 扩展为支持 AI/ML 工作负载，并都希望在他们的知识库上训练一个大语言模型。通过VMware提供经过优化的Kubeflow 发行版Kubeflow VMware Distribution，VMware客户可以充分利用经过验证的 VMware 技术栈，来解决这些挑战。这使得企业更容易在 vSphere 上安全地进行大规模的 Kubeflow 部署和管理，并且在值得信任的虚拟化基础之上高效地实现客户的AI/ML工作负载需求。

Kubeflow VMware Distribution的架构图如下所示：

Kubeflow VMware Distribution的主要特点包括：

通过与VMware基础架构的无缝集成，允许客户在现有VMware投资基础上更快地部署Kubeflow，从而利用成熟的vSphere、VMware NSX、vSAN等企业特性，高效地部署人工智能/机器学习项目。
使用Carvel打包技术将Kubeflow核心组件与Tanzu Kubernetes Grid自然集成，打造vSphere上的一站式Kubeflow部署经验。
提供了与vSphere集成的Pinniped的统一身份管理，先进的GPU动态管理、集成监控堆栈、多租户控制访问等企业级功能和产品就绪能力。
支持不同类型的机器学习工作负载，包括自然语言处理（NLP）、图像分类、视频识别等，特别是时下流行的开源大语言模型部署、微调及预训练。

未来，Kubeflow VMware Distribution将持续改进，与更多VMware产品特性进行深度融合，充分利用来自 VMware 合作伙伴的众多商业 MLOps 工具（例如 Anyscale、cnvrg.io、Domino Data Lab、NVIDIA、One Convergence、Run:ai 和 Weights & Biases等），在中国我们也将与浪潮、超聚变等合作伙伴在此领域进行合作。让我们共同期待！

本文作者：贺黎，VMware高级项目经理；刘奇，VMware高级工程师；曹磊，VMware工程师。

内容来源｜公众号：VMware 中国研发中心

有任何疑问，欢迎扫描下方公众号联系我们哦～

微信关注我们

原文链接：https://my.oschina.net/u/4238514/blog/10109804

转载内容版权归作者及来源网站所有！

低调大师中文资讯倾力打造互联网数据资讯、行业资源、电子商务、移动互联网、网络营销平台。持续更新报道IT业界、互联网、市场资讯、驱动更新,是最及时权威的产业资讯及硬件资讯报道平台。

一文探究系统分析与设计的逻辑性

一、系统分析与设计的逻辑性框架在日常的工作中，「软件分析」与「软件设计」这样的词眼经常听到，然而要真正理解「软件分析」和「软件设计」的本质是比较难的，它依赖极强的工作经验，又加上软件分析与设计没有标准的程式化步骤，导致不同的人有自己不同的方法，也就造成了很多人认为软件分析与设计是非常「空洞」，还不如写具体的代码实在，而大部分的人写的是业务型代码，被嘲弄写CRUD的代码没成就感。软件分析与设计如其它行业一样，具有很强的逻辑性，没有逻辑性支撑，很难做好事。比如写作，有「谋篇布局」、「起承转合」、「遣词造句」等这些「原则」和「方法」，没有洞悉到这些底层逻辑，一个高手写的文章和一个普通人写的文章，效果是天差地别。因此，首先要讲清楚的是软件分析与设计的「逻辑性」到底是什么，下图是软件分析与设计的逻辑全景图。 1.1 方法 1.1.1 分析阶段软件分析与设计并没有那么神秘，本质来讲还是为了解决现实的问题，和「医生看病」、「工人修车」、「厨师做菜」一样的，都需要方法作为指导，否则没有任何头绪，只能抓瞎。方法是具有普适性，只是不同的行业有各自的特性，具体落地上有差异。既然是要解决问题，那么总得...

2023-09-12

297

“本文由社区用户 @阿七从第一视角讲述其团队重构图数据库的过程，首发于阿七公众号「浅谈架构」” 原文出处：https://mp.weixin.qq.com/s/WIJNq-nuuAGtMjYo5rPLyg 一、写在前面读过我公众号文章的同学都知道，我做过很多次重构，可以说是“重构钉子户”，但是这次，重构图数据库 OrientDB 为 NebulaGraph（https://www.nebula-graph.com.cn/），可以说是我做过最艰难的一次重构。那这篇文章就来聊聊，图数据库重构之路。二、难点在哪里历史包袱重，原来使用 OrientDB 系统是2016年开始开发的，逻辑很复杂，历史背景完全不清楚。业务不了解，我们是临时接的大数据需求，之前没有参与过这块业务，完全不了解。技术栈不了解，图数据库是第一次接触（团队中也没有人了解），OrientDB 和 NebulaGraph 之前都没有接触过，原来老系统大部分代码是 Scala 语言写的，系统中使用的 HBase、Spark、Kafka，对于我们也比较陌生。时间紧迫总结来说: 业务不了解，技术栈不熟悉 tips: 大...

2023-09-12

740

资源下载

更多资源

优质分享App

近一个月的开发和优化，本站点的第一个app全新上线。该app采用极致压缩，本体才4.36MB。系统里面做了大量数据访问、缓存优化。方便用户在手机上查看文章。后续会推出HarmonyOS的适配版本。

Spring

Spring框架（Spring Framework）是由Rod Johnson于2002年提出的开源Java企业级应用框架，旨在通过使用JavaBean替代传统EJB实现方式降低企业级编程开发的复杂性。该框架基于简单性、可测试性和松耦合性设计理念，提供核心容器、应用上下文、数据访问集成等模块，支持整合Hibernate、Struts等第三方框架，其适用范围不仅限于服务器端开发，绝大多数Java应用均可从中受益。

Rocky Linux

Rocky Linux（中文名：洛基）是由Gregory Kurtzer于2020年12月发起的企业级Linux发行版，作为CentOS稳定版停止维护后与RHEL（Red Hat Enterprise Linux）完全兼容的开源替代方案，由社区拥有并管理，支持x86_64、aarch64等架构。其通过重新编译RHEL源代码提供长期稳定性，采用模块化包装和SELinux安全架构，默认包含GNOME桌面环境及XFS文件系统，支持十年生命周期更新。

Sublime Text

Sublime Text具有漂亮的用户界面和强大的功能，例如代码缩略图，Python的插件，代码段等。还可自定义键绑定，菜单和工具栏。Sublime Text 的主要功能包括：拼写检查，书签，完整的 Python API ， Goto 功能，即时项目切换，多选择，多窗口等等。Sublime Text 是一个跨平台的编辑器，同时支持Windows、Linux、Mac OS X等操作系统。