首页 文章 精选 留言 我的
优秀的个人博客,低调大师

微信关注我们

原文链接:https://www.oschina.net/news/367817

转载内容版权归作者及来源网站所有!

低调大师中文资讯倾力打造互联网数据资讯、行业资源、电子商务、移动互联网、网络营销平台。持续更新报道IT业界、互联网、市场资讯、驱动更新,是最及时权威的产业资讯及硬件资讯报道平台。

Cursor 发布全球最快 MXFP8 MoE 内核

Cursor 团队发表博客介绍他们从零构建的 MXFP8 内核实现 1.5 倍 MoE 训练速度提升的过程。 在过去几周里,我们从 GPU 内核层面彻底重写了整个 MoE (专家混合模型) 层,并且完全不依赖任何 CUDA 库。我们使用的是纯粹、经典的 CUDA 和 PTX,并在此基础上融合了一些 ThunderKittens 的技术。 最终,我们的 MoE 层在前向和反向传播中的性能都提升了 3.5 倍,这使得模型在 Blackwell 架构上的端到端训练速度提升了 1.5 倍,并且比我们最初在 Hopper 上的方案快了 2 倍。 我们相信,我们的技术栈比当今任何可用的开源方案组合都要快。 为解决 MoE 层在训练中速度过慢的问题,Cursor 团队在内核级别对其进行了完全重建,并转向使用 MXFP8 格式。在训练其编程模型时,MoE 层曾占据了 27% 至 53% 的训练时间。 经过优化后,新的 MXFP8 MoE 内核实现了 MoE 层速度提升 3.5 倍,并带来了 1.5 倍。

钉钉联手通义推出 Fun-ASR 语音识别大模型

钉钉、通义实验室语音团队宣布,联手推出新一代语音识别大模型Fun-ASR,能听懂家装、畜牧等十大行业黑话,并支持企业专属模型定制训练。 据介绍,基于双方深度共建,Fun-ASR能够准确转写各种语音信号,具备识别多行业术语、不同语言与口音的能力,也能结合上下文信息实现更精准的转录,并支持企业专属模型定制训练,让模型更懂企业场景。 目前,Fun-ASR已被集成进钉钉的多个功能模块,包括会议字幕与同传、智能纪要、语音助手等,旨在构建一套稳定、高效、易扩展的语音识别基座,尤其适用对企业级语境理解、识别准确率有较高要求的场景。 对于此次合作,通义实验室语音团队负责人李先刚表示:“我们很高兴能够与钉钉携手,共同推动语音识别技术在企业场景中的创新和应用。未来,我们将持续扩大Fun-ASR的数据和模型规模,不断提升大模型语音智能解决方案的可复制能力,为企业客户带来更高效、智能的产品体验。”    钉钉CTO朱鸿也表示,“钉钉和通义团队仅用三个月的紧密协作,就实现了Fun-ASR模型的成功落地,并赢得了头部客户的高度认可。这是我们迈向行业领先的一次关键突破,也将为更多钉钉客户打造专业定制大模型提供可...

相关文章

发表评论

资源下载

更多资源
Nacos

Nacos

Nacos /nɑ:kəʊs/ 是 Dynamic Naming and Configuration Service 的首字母简称,一个易于构建 AI Agent 应用的动态服务发现、配置管理和AI智能体管理平台。Nacos 致力于帮助您发现、配置和管理微服务及AI智能体应用。Nacos 提供了一组简单易用的特性集,帮助您快速实现动态服务发现、服务配置、服务元数据、流量管理。Nacos 帮助您更敏捷和容易地构建、交付和管理微服务平台。

Spring

Spring

Spring框架(Spring Framework)是由Rod Johnson于2002年提出的开源Java企业级应用框架,旨在通过使用JavaBean替代传统EJB实现方式降低企业级编程开发的复杂性。该框架基于简单性、可测试性和松耦合性设计理念,提供核心容器、应用上下文、数据访问集成等模块,支持整合Hibernate、Struts等第三方框架,其适用范围不仅限于服务器端开发,绝大多数Java应用均可从中受益。

Rocky Linux

Rocky Linux

Rocky Linux(中文名:洛基)是由Gregory Kurtzer于2020年12月发起的企业级Linux发行版,作为CentOS稳定版停止维护后与RHEL(Red Hat Enterprise Linux)完全兼容的开源替代方案,由社区拥有并管理,支持x86_64、aarch64等架构。其通过重新编译RHEL源代码提供长期稳定性,采用模块化包装和SELinux安全架构,默认包含GNOME桌面环境及XFS文件系统,支持十年生命周期更新。

Sublime Text

Sublime Text

Sublime Text具有漂亮的用户界面和强大的功能,例如代码缩略图,Python的插件,代码段等。还可自定义键绑定,菜单和工具栏。Sublime Text 的主要功能包括:拼写检查,书签,完整的 Python API , Goto 功能,即时项目切换,多选择,多窗口等等。Sublime Text 是一个跨平台的编辑器,同时支持Windows、Linux、Mac OS X等操作系统。