2025 大模型服务性能排行榜:PPIO 吞吐测试排名第一
清华大学携手中国软件评测中心联合发布了《2025 大模型服务性能排行榜》,PPIO 在 DeepSeek-R1-0528的吞吐测试中排名第一。
该榜单从延迟、吞吐、可靠性等关键指标切入,由专业团队通过长周期、高频率、多时段的数据评测,直观呈现不同MaaS供应商的服务表现。而且,平台以匿名用户身份对 MaaS(Model as a Service)平台开展产品端到端的性能测评,从评测主体与流程上双重保障了客观公正性。
本次评测覆盖多个代表性模型,包括 DeepSeek-R1-0528、DeepSeek-V3.1、Kimi-K2-Instruct 等。PPIO 在 20 余家 MaaS 供应商中表现突出。
其中,在 DeepSeek-R1-0528 的吞吐测试中,PPIO 以 45.17 tokens/s 的成绩位列第一。在 DeepSeek V3.1、Kimi-K2-Instruct 等模型测试中,PPIO 在吞吐与延迟性能上也取得了前五名的成绩。
吞吐 (Throughput) 与延迟 (Latency) 与 是评测模型表现的两个重要维度。吞吐(Throughput)衡量在单位时间内可处理的 Token 数量,高吞吐代表平台能支撑更多用户同时使用,尤其适合大规模应用场景;延迟(Latency)衡量用户从输入到获得首个回复所需的时间,低延迟意味着更快的响应速度,直接影响用户体验。
PPIO 在这两个维度都表现优秀,不仅能提供流畅的实时交互,也能在高并发和大规模任务处理中保持稳定。

低调大师中文资讯倾力打造互联网数据资讯、行业资源、电子商务、移动互联网、网络营销平台。
持续更新报道IT业界、互联网、市场资讯、驱动更新,是最及时权威的产业资讯及硬件资讯报道平台。
转载内容版权归作者及来源网站所有,本站原创内容转载请注明来源。
-
上一篇
上海 AI Lab 推出 Lumina-DiMOO
上海人工智能实验室与多所知名高校合作近日推出了新一代多模态生成与理解模型 ——Lumina-DiMOO。该模型以 “全方位扩散大语言模型” 命名,旨在推动多模态 AI 技术的发展。 Lumina-DiMOO 采用了创新的 “全离散扩散架构”,突破了传统模型在文本与图像处理上的局限,提供了更为高效的解决方案。 多模态 AI 的核心在于如何将不同类型的数据有效整合。Lumina-DiMOO 通过将文本、图像和音频等数据映射到一个共享的高维 “语义空间”,使不同模态的数据能够实现更好的理解和生成。这种方法的成功依赖于强大的对比学习技术,让模型可以识别和对齐各类数据之间的关系。 在模型设计上,Lumina-DiMOO 的 “全离散扩散建模” 将所有数据视作可被逐步 “去噪” 和 “生成” 的对象。这种处理方式不仅简化了模型结构,还显著提升了生成质量和效率。与以往的多模态模型不同,Lumina-DiMOO 兼顾了速度与准确性,在图像生成任务中只需少量步骤即可获得高质量结果。 此外,Lumina-DiMOO 在应用场景上具有广泛的适用性。无论是文本到图像生成、图像理解,还是主题驱动生成,模型都能表...
-
下一篇
命令行 AI 编程工具 Codex CLI 已集成全新 GPT-5-Codex 模型
OpenAI 为旗下命令行工具 Codex CLI 发布了0.36.0,新版本集成了强大的 GPT-5-Codex 模型,显著提升了代码生成速度、推理深度与质量。此次更新还引入了通过 AGENTS.md 文件精细控制其行为的能力。 Codex CLI 是一个轻量级的 AI 编程助手,采用 TypeScript 和 Node.js 编写,可以直接在用户的终端命令行运行,旨在充分发挥 AI 模型强大的推理能力,连接本地代码环境,甚至支持处理截图或草图进行多模态编程。 Codex CLI 0.36.0 版本覆盖了会话恢复、统一执行、安全与测试加固、简化登录流程、JSON-RPC 与 MCP 接口扩展,以及终端交互优化等多个方面。 此外,实验性地引入了自动上下文压缩、沙盒范围扩展和 Azure Responses API 临时解决方案。
相关文章
文章评论
共有0条评论来说两句吧...
文章二维码
点击排行
推荐阅读
最新文章
- SpringBoot2整合Thymeleaf,官方推荐html解决方案
- SpringBoot2更换Tomcat为Jetty,小型站点的福音
- SpringBoot2配置默认Tomcat设置,开启更多高级功能
- SpringBoot2整合Redis,开启缓存,提高访问速度
- SpringBoot2整合MyBatis,连接MySql数据库做增删改查操作
- Hadoop3单机部署,实现最简伪集群
- Docker使用Oracle官方镜像安装(12C,18C,19C)
- CentOS6,CentOS7官方镜像安装Oracle11G
- CentOS8安装MyCat,轻松搞定数据库的读写分离、垂直分库、水平分库
- MySQL8.0.19开启GTID主从同步CentOS8