首页 文章 精选 留言 我的
优秀的个人博客,低调大师

微信关注我们

原文链接:https://www.oschina.net/news/372549

转载内容版权归作者及来源网站所有!

低调大师中文资讯倾力打造互联网数据资讯、行业资源、电子商务、移动互联网、网络营销平台。持续更新报道IT业界、互联网、市场资讯、驱动更新,是最及时权威的产业资讯及硬件资讯报道平台。

​Meta AI 发布 MobileLLM-R1:轻量级边缘推理模型

Meta AI 近日推出了 MobileLLM-R1,这是一系列轻量级边缘推理模型,目前已在 Hugging Face 上发布。该系列模型参数范围从140M 到950M,专注于高效的数学、编码和科学推理,且在不足10亿的参数规模下实现了优秀的性能表现。 MobileLLM-R1的最大模型为 MobileLLM-R1-950M,采用了一系列架构优化设计:包括22层 Transformer 结构、24个注意力头和6个分组 KV 头。模型的嵌入维度为1536,隐藏层维度为6144。 此外,模型还采用了分组查询注意力(GQA)来减少计算和内存需求,块级权重共享技术降低了参数数量而不显著增加延迟,SwiGLU 激活函数提升了小模型的表示能力。模型支持4K 的上下文长度和32K 的后训练模型。 在训练效率方面,MobileLLM-R1的表现同样引人注目。该模型总共在约4.2万亿个 token 上进行训练,相较于 Qwen3的0.6B 模型训练的36万亿 token,MobileLLM-R1仅使用了约11.7% 的数据便达到了或超越了 Qwen3的准确率。同时,模型在数学、编码和推理数据集上进行了监...

喜报 | GPTBots 与极光推送双双荣获「金灵光杯」重磅奖项!

近日,第二届“金灵光杯”中国互联网创新大赛颁奖仪式在雄安新区盛大举行。 “金灵光杯”大赛由中国互联网协会(Internet Society of China)主办。作为由国内从事互联网行业的网络运营商、服务提供商、设备制造商、系统集成商以及科研、教育机构等700多家会员单位组成的全国性、行业性、非营利性社会组织,中国互联网协会旨在搭建行业交流平台、推动产业健康发展,其主办的评选活动在业内享有极高的权威性和公信力。本届大赛旨在发掘和表彰年度最具技术突破、商业价值和社会影响力的创新产品与企业,其评选结果被视为行业发展的风向标。 本届大赛竞争尤为激烈,吸引了超过1000家单位申报,提交项目多达1500余个。经过由多名院士及行业顶尖专家组成的评审委员会全方位、深层次的剖析与评估。 中国领先的客户互动和营销科技服务商极光(Aurora Mobile,纳斯达克股票代码:JG),凭借在人工智能和客户互动领域的持续创新与深厚积累,旗下两大核心产品——企业级AI智能体平台GPTBots与市场领先的极光推送(JPush)在2025年(第二届)“金灵光杯”中国互联网创新大赛中表现突出。GPTBots凭借“A...

相关文章

发表评论

资源下载

更多资源
Mario

Mario

马里奥是站在游戏界顶峰的超人气多面角色。马里奥靠吃蘑菇成长,特征是大鼻子、头戴帽子、身穿背带裤,还留着胡子。与他的双胞胎兄弟路易基一起,长年担任任天堂的招牌角色。

Oracle

Oracle

Oracle Database,又名Oracle RDBMS,或简称Oracle。是甲骨文公司的一款关系数据库管理系统。它是在数据库领域一直处于领先地位的产品。可以说Oracle数据库系统是目前世界上流行的关系数据库管理系统,系统可移植性好、使用方便、功能强,适用于各类大、中、小、微机环境。它是一种高效率、可靠性好的、适应高吞吐量的数据库方案。

Eclipse

Eclipse

Eclipse 是一个开放源代码的、基于Java的可扩展开发平台。就其本身而言,它只是一个框架和一组服务,用于通过插件组件构建开发环境。幸运的是,Eclipse 附带了一个标准的插件集,包括Java开发工具(Java Development Kit,JDK)。

JDK

JDK

JDK是 Java 语言的软件开发工具包,主要用于移动设备、嵌入式设备上的java应用程序。JDK是整个java开发的核心,它包含了JAVA的运行环境(JVM+Java系统类库)和JAVA工具。