您现在的位置是:首页 > 文章详情

2025 大模型服务性能排行榜:PPIO 吞吐测试排名第一

日期:2025-09-16点击:37

清华大学携手中国软件评测中心联合发布了《2025 大模型服务性能排行榜》,PPIO 在 DeepSeek-R1-0528的吞吐测试中排名第一

该榜单从延迟、吞吐、可靠性等关键指标切入,由专业团队通过长周期、高频率、多时段的数据评测,直观呈现不同MaaS供应商的服务表现。而且,平台以匿名用户身份对 MaaS(Model as a Service)平台开展产品端到端的性能测评,从评测主体与流程上双重保障了客观公正性。

本次评测覆盖多个代表性模型,包括 DeepSeek-R1-0528、DeepSeek-V3.1、Kimi-K2-Instruct 等。PPIO 在 20 余家 MaaS 供应商中表现突出。

其中,在 DeepSeek-R1-0528 的吞吐测试中,PPIO 以 45.17 tokens/s 的成绩位列第一。在 DeepSeek V3.1、Kimi-K2-Instruct 等模型测试中,PPIO 在吞吐与延迟性能上也取得了前五名的成绩。

吞吐 (Throughput) 延迟 (Latency) 与 是评测模型表现的两个重要维度。吞吐(Throughput)衡量在单位时间内可处理的 Token 数量,高吞吐代表平台能支撑更多用户同时使用,尤其适合大规模应用场景;延迟(Latency)衡量用户从输入到获得首个回复所需的时间,低延迟意味着更快的响应速度,直接影响用户体验。

PPIO 在这两个维度都表现优秀,不仅能提供流畅的实时交互,也能在高并发和大规模任务处理中保持稳定。

原文链接:https://www.oschina.net/news/372579
关注公众号

低调大师中文资讯倾力打造互联网数据资讯、行业资源、电子商务、移动互联网、网络营销平台。

持续更新报道IT业界、互联网、市场资讯、驱动更新,是最及时权威的产业资讯及硬件资讯报道平台。

转载内容版权归作者及来源网站所有,本站原创内容转载请注明来源。

文章评论

共有0条评论来说两句吧...

文章二维码

扫描即可查看该文章

点击排行

推荐阅读

最新文章