2024 源创会年终盛典“昇腾 AI 大模型与应用开发”分论坛顺利举行

在科技发展的浪潮中，每一次创新都预示着行业的变革。12月28日，2024 源创会年终盛典在珠海隆重举行。其中，“昇腾 AI 大模型与应用开发”分论坛聚焦昇腾在AI 大模型领域的技术、生态、应用等等多方面的创新进展。

 

充分发挥硬件算力，昇思MindSpore成为首选AI框架

 华为昇思生态总监王神迪博士以《昇思 MindSpore Al 框架使能大模型原生创新》为题发表演讲，重点分享了昇思 MindSpore Al 框架在技术上的突破。

他表示，在文本生成、视频生成等AI场景中，序列长度突破百万tokens，超长序列成为主流标配，大模型从数据驱动走向算力驱动。大算力成为支撑更高质量大模型创新落地的最关键基础。

然而，大模型开发难度大，常稳高效训练挑战大，推理部署成本高，算力及开发迎来挑战。在这一背景下，昇思MindSpore赋能用户开发大模型能力，充分发挥硬件澎湃算力，成为了大模型领域的首选AI框架。

尤其是全新发布的昇思MindSpore 2.4版本，引入了多维混合并行技术，大规模分布式训练的性能实现最优。此外，昇思MindSpore在动静统一方面也取得了突破，提供了静态图的全栈优化和动态图能力的开放，确保了生态兼容性。作为中国乃至世界的框架“新势力”，昇思MindSpore社区下载量已经突破 1000 万，社区核心贡献者数量约 3.5 万，认证企业数超过 1500 家。昇思MindSpore 正在引领技术创新，加速全面智能化时代到来！

 

算力需求旺盛，昇腾Mindspeed大模型加速套件应运而生

华为主任工程师张俊怡以《昇腾大模型 MindSpeed 训练加速库系列介绍》为题发表演讲。

张俊怡认为，当前主流的大模型结构以多层transformer堆叠为核心，在此基础上，通过引入万亿级别的稀疏参数，在稠密大模型基础上加入专家并行（MoE）机制。他预计，在未来25年内，领先厂商的MoE模型参数将扩展至万亿乃至十万亿规模。随着模型越来越大，训练时间越来越长，算力需求也越来越旺盛，充分挖掘算力价值成为热门研究课题，不断涌现的热门技术集中于头部加速套件。

华为推出的昇腾Mindspeed大模型加速套件支持100+ LLM、多模态大模型，完备的算法、工具链及模型生态。该套件包括大语言模型模块、多模态模型模块、亲和加速模块三个代码仓，能够优化大模型加速的全业务流程，有效降低开发难度，确保用户开箱即用。其中，面向大规模分布式训练的多模态大模型训练套件Mindspeed-MM，实现了多模态生成、多模态理解工程架构统一，支持强大的分布式能力，预置主流多模态大模型，具备高性能及开箱即用的特点。

昇腾原生，AI应用开发使能套件确保大模型实现开箱即用

华为昇腾生态套件项目架构师潘邵武分享了昇腾在AI生态建设上的成果，并重点介绍了AI应用开发使能套件。

他表示，昇腾持续打造极致性能、极简易用的全场景AI平台，携手全产业链力量，共建昇腾AI生态，加速大模型应用创新。与此同时，昇腾已适配LLaMA-Factory、PyTorch、ONNX Runtime、Stable Diffusion Web UI等20多个重点开源生态库。

作为全栈昇腾原生的解决方案，AI应用开发使能套件能够充分激发系统的潜能，提供全流程的极致易用性，确保大模型能够实现开箱即用的便捷体验。同时，AI应用开发使能套件具备快速易用的推理模块，进一步提升了模型的应用效率。此外，该套件还预置了热点模型和数据集，大大提高了二次定制开发的效率。

最后，潘邵武透露了AI应用开发使能套件系统化社区及生态发展规划。未来，将携手企业和高校开发者，赋能社区活力，实现资源循环流动，并与电信魔乐、Gitee AI、启智等社区展开紧密合作，从工具链维度打通生态链路，共建昇腾AI生态。

基于昇腾底座，AI生态日益繁荣

迅龙软件系统开发工程师徐洋帆以《香橙派：开源+AI，探索无限可能》为题发表演讲。

据介绍，香橙派与华为昇腾正在联合研发高算力人工智能产品，如OrangePi Al pro、OrangePi Al Studio 等，具有强大的计算能力和高效的运算速度，能满足AI边缘计算、深度视觉学习及视频流AI分析等各行各业及个人开发者对AI算法原型验证、推理应用开发的需求，能让企业以更低的门槛尝试AI，推动企业的智能化升级。

徐洋帆表示，在昇腾社区，已经有100多个香橙派的应用案例、开源案例代码仓，形成了友好互助的社区环境。开发者们共同学习、激发智慧，研究和探索人工智能领域的前沿知识，分享各自的实践经验和创新成果，共建繁荣生态。

天翼云专家、魔乐社区负责人李宝龙以《与魔乐一起，繁荣国产 AI 生态》为题发表演讲。

据介绍，魔乐社区（Modelers）是全新的人工智能社区，拥有包容的工具链体系，已托管和展示的工具包括HUAWEI CANN、昇思、PyTorch等框架或平台，以及Qwen/GLM/Llama等异构最佳实践。同时，它还支持多计算平台和多Hub，包括昇腾计算平台和相应的Hub。

未来，魔乐社区将逐步托管及支持各类国产计算平台、各类AI工具，如XEdu、MinerU、LiMa-Factory、SwanLab等。他表示，魔乐社区坚持走开源、公益的路线，免费、长期支撑应用创新。值得一提的是，魔乐社区对用户制定了成长激励计划，鼓励用户在不同领域深入学习和实践，从而实现个人和专业上的成长与发展。

开源中国Gitee Al 负责人彭博以《Gitee Al 如何在国产算力上构建 Serverless API 及其应用场景》为题发表演讲。

彭博指出，模型引擎和应用引擎在使用过程中暴露出若干问题，比如模型引擎的体验失败率较高，而应用引擎在编写与GPU推理相关的代码时存在较高的门槛。

因此， Gitee AI 推出 Serverless API，接入了昇腾等多种国内外领先算力资源。开发者可直接调用不同种类的模型，无需关心底层无须关心底层的 GPU 推理代码；同时兼容 OpenAi接口，门槛低；体验稳定，部署简单；按次付费，价格实惠。

彭博还透露，2025 年，Gitee AI将接入更多算力资源，其中将增加更多昇腾算力以及自营算力。此外，还将增加模型支持，探索端侧与云端结合的AI应用场景，简化应用开发技术栈，提供Workflow工作流支持，以提升开发效率和体验。

情感机器(北京)科技有限公司 AI 生态负责人陈少宏以《SwanLab+openMind 打造国产 AI 开发者工具链》为题发表演讲，分享了打造SwanLab的心路历程。

他认为，好用的开发者工具是开发者生态的种子。基于昇腾底座，国内已经形成自己的工具生态。其中也包括SwanLab。SwanLab是一款专注于AI训练的过程记录工具，旨在帮助训练者挖掘出最有潜力的AI模型。它深度整合了超过三十种国内外流行的开源AI框架。此外，华为 AI 应用使能套件已经将SwanLab作为其官方的训练日志记录工具进行集成，将共同打造全球领先的人工智能研发工具链。

最后陈少宏表示，希望越来越多的工具能够相互集成，在未来形成“工具反哺社区，社区促进工具”的良性循环。

人工智能技术的不断创新和广泛应用，正推动着整个行业向前发展。在这个过程中，多元化的生态合作和协同进步为我国人工智能产业的繁荣贡献了巨大力量。展望未来，我们坚信，随着技术的普及和生态的完善，人工智能将为社会带来更加美好的明天。