Omni-Infer v0.4.0 发布，超大规模 MoE 模型推理加速技术

2025-09-06 77

Omni-Infer v0.4.0 已经发布，超大规模 MoE 模型推理加速技术。

v0.4.0

核心特性

模型脚本重构，消除与框架的耦合，提升模型适配效率和代码可维护性
支持xPyD（y<32）
PD分离场景P&D支持独立TP+DP+EP
全局绑核优化

支持模型列表

模型	硬件	精度类型	部署形态
DeepSeek-R1	A3	INT8	PD分离
DeepSeek-V3	A3	W4A8C16	PD分离
DeepSeek-R1	A3	BF16	PD分离
DeepSeek-R1	A2	INT8	PD分离
Qwen2.5-7B	A3	INT8	混布（TP>=1 DP=1）
Qwen2.5-7B	A2	INT8	混布（TP>=1 DP=1）
QwQ-32B	A3	BF16	PD分离
Qwen3-235B	A3	INT8	PD分离
Kimi-K2	A3	W4A8C16	PD分离

详情查看：https://gitee.com/omniai/omniinfer/releases/v0.4.0

微信关注我们

原文链接：https://www.oschina.net/news/370637

转载内容版权归作者及来源网站所有！

低调大师中文资讯倾力打造互联网数据资讯、行业资源、电子商务、移动互联网、网络营销平台。持续更新报道IT业界、互联网、市场资讯、驱动更新,是最及时权威的产业资讯及硬件资讯报道平台。

Excel公式错误大全：从#DIV/0到#NULL!，一文搞定所有报错！

前言：在工作中使用Excel公式时，我们常常会遇到各种公式错误，这不仅影响工作效率，更可能导致决策失误。本文将带您系统了解常见的Excel公式错误，结合具体案例学习如何快速识别和解决公式错误。一、常见错误说明 1、#DIV/0! - 除零错误错误原因：除数单元格vlue为0或空单元格示例： 2、#VALUE! - 值错误错误原因：公式中使用了错误的数据类型或参数，导致无法完成计算示例1：数据类型不匹配（文本与数字相加）示例2：函数参数类型不匹配（公式参数应为数字而非文本） 3、#REF! - 无效引用错误原因：引用的单元格不存在或超出范围示例1：Shee3不存在示例2：参数3超出B:C列范围 4、 #NAME? - 名称错误错误原因：函数名拼写错误或未定义名称示例1：函数名不正确或不存在示例2：名称管理器未定义该名称 5、#N/A - 数据不存在错误原因：查找函数未找到匹配项示例：苹果不在A列 6、#SPILL! - 动态数组溢出冲突错误原因：动态数组公式因无法正常溢出到指定区域而返回的错误提示示例：输出区域被非空单元格阻挡 7、#NUM! - ...

2025-09-08

94

5年了，我们新的全平台正式版本 comNG v2.2.3终于来了。先给不了解comNG的同学介绍下。 comNG是一个串口助手软件。除了提供基本串口工具外，它还有非常优雅的界面、高效的文本分析能力、另外的数据曲线可视化等等功能。完整的功能介绍可移步comNG readme 为什么5年后又更新了？ v2.1.1 release后主题功能基本都已经完善了，陆陆续续收到一些用户的反馈，但都不涉及核心功能。这5年里我也一直在使用comNG，只能说相当之稳定，完全满足了我的日常开发需求。目前github 上comNG有近70的star，gitee上已经有近500的star了。2年前开玩笑说gitee上1000 star后再更新，但是现在这个star数量已经让我有些膨胀了。想折腾的心又躁动了起来。 v2.2.3有什么更新？首先这次是全平台的更新，包括Windows，Mac OS和Linux。由于是一些普适的改动和优化，所以希望每个平台都能更新到。首要的改动是标题栏的UI。老用户应该已经注意到标题栏不太一样了，优化的目的是希望提供更加协调的视觉体验。另外标题栏的最大化操作的bug也修...

2025-09-07

88

资源下载

更多资源

Mario

马里奥是站在游戏界顶峰的超人气多面角色。马里奥靠吃蘑菇成长，特征是大鼻子、头戴帽子、身穿背带裤，还留着胡子。与他的双胞胎兄弟路易基一起，长年担任任天堂的招牌角色。

腾讯云软件源

为解决软件依赖安装时官方源访问速度慢的问题，腾讯云为一些软件搭建了缓存服务。您可以通过使用腾讯云软件源站来提升依赖包的安装速度。为了方便用户自由搭建服务架构，目前腾讯云软件源站支持公网访问和内网访问。

Nacos

Nacos /nɑ:kəʊs/ 是 Dynamic Naming and Configuration Service 的首字母简称，一个易于构建 AI Agent 应用的动态服务发现、配置管理和AI智能体管理平台。Nacos 致力于帮助您发现、配置和管理微服务及AI智能体应用。Nacos 提供了一组简单易用的特性集，帮助您快速实现动态服务发现、服务配置、服务元数据、流量管理。Nacos 帮助您更敏捷和容易地构建、交付和管理微服务平台。

Rocky Linux

Rocky Linux（中文名：洛基）是由Gregory Kurtzer于2020年12月发起的企业级Linux发行版，作为CentOS稳定版停止维护后与RHEL（Red Hat Enterprise Linux）完全兼容的开源替代方案，由社区拥有并管理，支持x86_64、aarch64等架构。其通过重新编译RHEL源代码提供长期稳定性，采用模块化包装和SELinux安全架构，默认包含GNOME桌面环境及XFS文件系统，支持十年生命周期更新。