2025 大模型服务性能排行榜:PPIO 吞吐测试排名第一
清华大学携手中国软件评测中心联合发布了《2025 大模型服务性能排行榜》,PPIO 在 DeepSeek-R1-0528的吞吐测试中排名第一。 该榜单从延迟、吞吐、可靠性等关键指标切入,由专业团队通过长周期、高频率、多时段的数据评测,直观呈现不同MaaS供应商的服务表现。而且,平台以匿名用户身份对 MaaS(Model as a Service)平台开展产品端到端的性能测评,从评测主体与流程上双重保障了客观公正性。 本次评测覆盖多个代表性模型,包括 DeepSeek-R1-0528、DeepSeek-V3.1、Kimi-K2-Instruct 等。PPIO 在 20 余家 MaaS 供应商中表现突出。 其中,在 DeepSeek-R1-0528 的吞吐测试中,PPIO 以45.17 tokens/s的成绩位列第一。在 DeepSeek V3.1、Kimi-K2-Instruct 等模型测试中,PPIO 在吞吐与延迟性能上也取得了前五名的成绩。 吞吐 (Throughput)与延迟 (Latency)与 是评测模型表现的两个重要维度。吞吐(Throughput)衡量在单位时间内可处理的 ...
