首页 文章 精选 留言 我的
优秀的个人博客,低调大师

微信关注我们

原文链接:https://www.oschina.net/news/308145

转载内容版权归作者及来源网站所有!

低调大师中文资讯倾力打造互联网数据资讯、行业资源、电子商务、移动互联网、网络营销平台。持续更新报道IT业界、互联网、市场资讯、驱动更新,是最及时权威的产业资讯及硬件资讯报道平台。

MoonBit 编程大赛开幕式将在深圳福田区举办!探讨 MoonBit & AI 大模型相关技术发展

MoonBit 第四期 Meetup 来啦!2024年9月1日,MoonBit 将携手多位专家、老师在深圳这座创新的城市,举办 Meetup 第四期暨 MoonBit 编程挑战赛开幕式!继6月底北京的基础软件技术前沿对话后,我们再次集结,这一次,我们将深入探讨AI大模型在编程领域的革命性应用,从基础软件到 AI 编程实践,全方位覆盖技术热点。 同时,紧随 Meetup 之后,2024 MoonBit 全球编程创新挑战赛即将拉开帷幕。参与本次活动,您不仅将有机会学习到最前沿的技术知、与行业大咖面对面互动交流心得,还可以抢先获取 MoonBit 编程大赛的最新动态。我们期待您的参与,共同见证 AI 编程的新篇章! 🎤六、演讲者(按演讲顺序排序) 张宏波:基础软件中心首席科学家、Moonbit平台负责人,是通用程序语言 ReScript 的作者,程序语言 OCaml 前核心开发人员。本科毕业于清华大学电子系,在美国宾夕法尼亚大学读博期间受 Bloomberg 邀请,从事函数式语言编译器的开发工作。 费浩祥:MoonBit 工程师,参与了 MoonBit AI 项目的设计实现。 洪永潮:阿...

利用多 Lora 节省大模型部署成本

一、背景 近期,我们在大模型集群的部署过程中遇到了一些挑战。公司有多个业务场景,每个场景都基于自身的数据进行微调,训练出相应的大模型并上线。然而,这些场景的调用量并不高,同时大模型的部署成本较为昂贵,这造成了资源的浪费。 本文将介绍我们如何利用多Lora技术,将多个场景合并部署,从而有效解决这一问题。同时,我们也将探讨大模型训练与推理过程中Lora技术的应用。 二、Lora是什么 Lora的概念 如果你去网上搜索"Lora"这个关键字,你一定会搜到下面这篇论文。 这就是Lora这个词出处。这一概念是由著名人工智能研究员Edward J. Hu于2021年提出的。Lora完整名称是低秩自适应(Low-Rank Adaptation)。虽然这个名称比较复杂,但其核心概念却相对容易理解。 以GPT3为例,该模型拥有1750亿个参数。为了使大模型适应特定的业务场景,我们通常需要对其进行微调。如果对大模型进行全参数微调,因其参数数量庞大,成本将非常高。Lora技术的解决方案是,仅对不到2%的参数进行微调,其他参数则保持不变。相较于全参微调GPT-3(175B),Lora最多能够将训练参数的数量减...

相关文章

发表评论

资源下载

更多资源
Mario

Mario

马里奥是站在游戏界顶峰的超人气多面角色。马里奥靠吃蘑菇成长,特征是大鼻子、头戴帽子、身穿背带裤,还留着胡子。与他的双胞胎兄弟路易基一起,长年担任任天堂的招牌角色。

Nacos

Nacos

Nacos /nɑ:kəʊs/ 是 Dynamic Naming and Configuration Service 的首字母简称,一个易于构建 AI Agent 应用的动态服务发现、配置管理和AI智能体管理平台。Nacos 致力于帮助您发现、配置和管理微服务及AI智能体应用。Nacos 提供了一组简单易用的特性集,帮助您快速实现动态服务发现、服务配置、服务元数据、流量管理。Nacos 帮助您更敏捷和容易地构建、交付和管理微服务平台。

Rocky Linux

Rocky Linux

Rocky Linux(中文名:洛基)是由Gregory Kurtzer于2020年12月发起的企业级Linux发行版,作为CentOS稳定版停止维护后与RHEL(Red Hat Enterprise Linux)完全兼容的开源替代方案,由社区拥有并管理,支持x86_64、aarch64等架构。其通过重新编译RHEL源代码提供长期稳定性,采用模块化包装和SELinux安全架构,默认包含GNOME桌面环境及XFS文件系统,支持十年生命周期更新。

Sublime Text

Sublime Text

Sublime Text具有漂亮的用户界面和强大的功能,例如代码缩略图,Python的插件,代码段等。还可自定义键绑定,菜单和工具栏。Sublime Text 的主要功能包括:拼写检查,书签,完整的 Python API , Goto 功能,即时项目切换,多选择,多窗口等等。Sublime Text 是一个跨平台的编辑器,同时支持Windows、Linux、Mac OS X等操作系统。