西安源创会精彩回顾

9 月 21 日，第 106 期OSC源创会✖️科大讯飞开发者TALK在西安成功举办。本次大会聚焦 “ 大模型 技术与产业应用”，邀请来自华为昇思 MindSpore、华为昇腾、科大讯飞、 西安电子科技大学的业内大咖发表主题演讲。一起来看看本次活动的精彩瞬间吧！

多位专家精彩的内容分享！

人气满满的大会现场！

丰富有趣的互动环节！

感谢本期活动合作伙伴的大力支持

扫一扫，精彩回看👆

 

下面进入 106 期源创会 · 西安站 主题演讲环节回顾

 

科大讯飞高级平台架构师 江键 发表《 MaaS 大模型微调平台建设与应用实践》主题演讲。江键介绍，目前大模型产业落地形态大致可以分为四种，一是类似于 ChatGPT 这样开箱即用面向 C 端用户的大模型；二是根据不同行业需求进行定制的大模型；三是面向一些通用业务场景，如办公、财务、HR 等业务大模型；四则是针对于一些大企业在特定场景或知识框架下的专属大模型。

江键表示，随着大模型核心能力的日趋成熟，平台深度赋能应用将成为趋势。讯飞星辰 MaaS 可以帮助用户构建自己的数据，支持 5 种常见的文件格式，正确率达到 90%；通过数据清洗，将不同行业有效的数据清洗出来并保存；数据优化方面，星辰 MaaS 还支持 7 个方向、50个以上常见 prompt 模板，让一些简单的 prompt 优化成更复杂、更高效的 prompt 。

西安电子科技大学副教授、博士生导师 武越 发表《三维点云协同智能处理》主题演讲。武越介绍，点云包含了物体或场景的三维几何信息，能够更准确地捕捉物体形状、大小及空间布局，多用于国防科技、航天航空及智慧城市领域，随着激光雷达等传感器设备迅速发展，点云数据获取方式变得更加方便，成本也越来越低。

武越指出，相较于传统的图像数据，点云可以将物与物之间的三维关系更加直接地传输给机器，从而提高数据的运算效率，例如无人驾驶领域，车与车之间其实并不需要知道对方是什么颜色、什么品牌，只需要知道对方的车速、车距等关键数据，就可以正常地展开空间运算，点云在这其中起到了非常重要的作用。

昇思 MindSpore 研发工程师 钱驾宏 发表《昇思 MindSpore 大模型关键技术与规划》主题演讲。钱驾宏表示，昇思MindSpore 整体的思路是在训练、微调，以及部署这几个方面都能满足用户的一站式需求。这其中，昇思MindSpore 支持包括数据并行、模型并行、长序列并行、多副本并行等多种并行模式，通过充分利用集群的计算资源，提高大模型的训练效率。

同时，昇思MindSpore 支持模型的训练和推理过程，可以使用相同的代码和框架，大大简化大模型的开发和部署流程，开发者不需要在训练和推理阶段分别使用不同的工具和框架，减少了开发的工作量和出错的可能性。

值得一提的是，目前 昇思MindSpore 还应用部署于华为的终端产品，整体的吞吐较之前提升了 4-5 倍。

随后，来自于华为的两名工程师 秦政、崔明 带来《大模型的昇腾开源原生支持与模型推理实战》主题演讲。据介绍，目前昇腾适配了大量的业界主流开源 LLM（ Large Language Model ）模型，包括 GLM 系列、LLaMA 系列等。在图文多模态方面，昇腾适配了 Based LLM 系列和 Diffusion 系列两类多模态大模型，而在视觉大模型方面，则支持计算机视觉（ Computer Vision ）领域大模型，如 ViT 、Swin Transformer 、MAE 等。

作为华为今年推出的应用使能套件，昇腾 openMind 基于微服务器，支持模型一键迁移，在模型部署时免去环境搭建，大大降低了时耗，并提供了全流程工具链，包括开发库 Libraries 、体验工具 Hub Tools 、微服务容器库、安全工具库，以及平台工具库等。不仅如此，openMind 社区还提供镜像仓库，开发者可以在镜像仓库中找到各种类型的镜像，并快速部署 AI 应用，目前已提供多个基础镜像用于二次开发。