国产大模型新标杆！比肩GPT4，DeepSeek V2重磅升级-低调大师

国产大模型新标杆！比肩GPT4，DeepSeek V2重磅升级

2024-07-02 864

近日，深度求索团队更新了DeepSeek-V2模型，新版本DeepSeek-V2-Chat模型推理能力有了极大提升。尤其在数学解题、逻辑推理、编程、指令跟随、Json格式输出不同维度上，最高有16%的性能提升。

在Arena-Hard测评中，DeepSeek-V2-Chat与GPT-4-0314的对战胜率从41.6%提升到了68.3%。DeepSeek-V2-Chat模型的角色扮演能力显著增强，可以在对话中按要求扮演不同角色。

此外，深度求索团队对DeepSeek-V2-Chat的“system”区域指令跟随能力进行了优化，显著增强了沉浸式翻译、RAG 等任务的用户体验。

短短半年，深度求索团队的进步堪称神速。

今年1月，他们开源了国内首个MoE模型，随后在5月初发布了最强开源MoE模型DeepSeek-V2，6月中旬，他们发布了代码生成能力超越GPT4-Turbo的DeepSeek Coder V2。

这一次，DeepSeek-V2-Chat在各方面或比肩GPT4，至少是国产大模型的新标杆。

据官方此前介绍，DeepSeek-V2系列模型采用了全新的模型结构。DeepSeek V2没有沿用主流的“类LLaMA的Dense结构”和“类Mistral的Sparse结构”，而是对模型框架进行了全方位的创新，提出了媲美MHA的MLA（Multi-head Latent Attention）架构，大幅减少计算量和推理显存；自研Sparse结构DeepSeekMoE进一步将计算量降低到极致，两者结合最终实现模型性能跨级别的提升。

(DeepSeek-V2与其他大模型的效果对比)

一如既往，大模型API平台SiliconCloud第一时间上线了推理加速版DeepSeek-V2-Chat。

新用户送2000万Token，快试试吧：

https://cloud.siliconflow.cn/models/text/chat/17885302520

在SiliconCloud上，DeepSeek-V2-Chat的输出在50tokens/s左右，速度飞快。

写一道简单的代码题，感受一下DeepSeek-V2-Chat的输出：

再问一道数学题：

除了DeepSeek-V2-Chat，SiliconCloud已上架包括DeepSeek-Coder-V2、Stable Diffusion 3 Medium、Qwen2、GLM-4-9B-Chat、SDXL、InstantID在内的多种开源大语言模型、图片生成模型与代码生成模型。

其中，Qwen（7B）、GLM4（9B）等多个大模型API免费使用，让开发者与产品经理无需担心研发阶段和大规模推广所带来的算力成本，实现“Token 自由”。

作为集合顶尖大模型的一站式云服务平台，SiliconCloud为开发者提供更快、更便宜、更全面、体验更丝滑的模型API。

SiliconCloud支持用户自由切换符合不同应用场景的模型，同时提供开箱即用的大模型推理加速服务，为生成式AI应用带来更高效的用户体验。

欢迎来玩儿：

cloud.siliconflow.cn/s/deepseek_v2_new

其他人都在看

800+页免费“大模型”电子书

LLM Serving有效吞吐量的最大化实现

文生图王者登场：SD3 Medium正式开源

大模型产品化第一年：战术、运营与战略

最强开源代码模型DeepSeek-Coder-V2问世

20+公司AI产品分析；工程师的LLM使用痛点

国产大模型免费用！开发者Token自由实现了

开发AI超级应用，减少响应时间，就用SiliconCloud

更快、更便宜、更全面、体验更丝滑的大模型API

扫码加入用户交流群

本文分享自微信公众号 - OneFlow（OneFlowTechnology）。
如有侵权，请联系 support@oschina.cn 删除。
本文参与“OSC源创计划”，欢迎正在阅读的你也加入，一起分享。

微信关注我们

原文链接：https://my.oschina.net/oneflow/blog/11322948

转载内容版权归作者及来源网站所有！

低调大师中文资讯倾力打造互联网数据资讯、行业资源、电子商务、移动互联网、网络营销平台。持续更新报道IT业界、互联网、市场资讯、驱动更新,是最及时权威的产业资讯及硬件资讯报道平台。

深耕分析型数据库领域，火山引擎 ByteHouse 入围《2024 爱分析数据库厂商全景报告》

更多技术交流、求职机会，欢迎关注字节跳动数据平台微信公众号，回复【1】进入官方交流群。近日，爱分析发布《2024爱分析·数据库厂商全景报告》，报告中爱分析将数据市场从上至下划分为数据库服务、数据库运维管理产品、数据库产品三层，其中数据库产品又包括事务型关系数据库、混合型关系数据库等。凭借完备的产品能力、领先的技术水平及持续扩大的用户规模，火山引擎VeDI旗下的云原生数据库ByteHouse作为行业典型代表，入选分析型数据库、云原生数据库两个细分领域。现如今，企业正加速走向数字化、智能化，对数据的应用也提出了全新要求，特别是在数据实时分析、实时部署方面的诉求更加强烈，而云数据仓库为用户实现云原生、智能运维、弹性资源等业务需求带来了很好支撑，成为今天企业数字化基础设施中的关键“底座”。 ByteHouse在ClickHouse基础上进行重构和优化，在架构上遵循新一代云原生理念，实现了容器化、存储计算分离、多租户管理和读写分离等功能，同时支撑实时数据分析和海量数据离线分析，尤其对高吞吐、高并发、复杂查询等多种实时数据分析场景进行优化，能为用户提供极速分析体验。在《2024爱分析·...

2024-07-08

281

来源｜机器之心昨天，OpenAI 突然宣布终止对中国提供 API 服务，进一步收紧国内开发者访问 GPT 等高水平大模型。国内开发者真是太难了。好在，随着开源大模型水平越来越高，开发者已经有很多不错的 “平替”，比如 Qwen2、DeepSeek V2 等模型。为了给开发者提供更快、更便宜、更全面、体验更丝滑的开源大模型 API，AI Infra 领域的专业选手硅基流动（SiliconFlow）上场，推出了一站式大模型 API 平台 SiliconCloud。同样在昨天，硅基流动为国内开发者献上一份前所未有的大礼：Qwen2 (7B)、GLM4 (9B)、Yi1.5（9B）等顶尖开源大模型永久免费。从此，开发者 “Token 自由” 不再是梦，可以甩开膀子开发超级应用了。 “Token 自由” 传送门，一键直达： cloud.siliconflow.cn/s/free 正如在工业化时代，机械化工厂推动了大规模生产商品的效率。在大模型时代，生成式 AI 应用的繁荣亟需高性价比的 Token 生产工厂。通过云服务接入大模型 API 已成为开发者的最优选择。不过，很多平台只提供自家...

2024-06-26

449

资源下载

更多资源

优质分享App

近一个月的开发和优化，本站点的第一个app全新上线。该app采用极致压缩，本体才4.36MB。系统里面做了大量数据访问、缓存优化。方便用户在手机上查看文章。后续会推出HarmonyOS的适配版本。

Oracle

Oracle Database，又名Oracle RDBMS，或简称Oracle。是甲骨文公司的一款关系数据库管理系统。它是在数据库领域一直处于领先地位的产品。可以说Oracle数据库系统是目前世界上流行的关系数据库管理系统，系统可移植性好、使用方便、功能强，适用于各类大、中、小、微机环境。它是一种高效率、可靠性好的、适应高吞吐量的数据库方案。

Apache Tomcat

Tomcat是Apache 软件基金会（Apache Software Foundation）的Jakarta 项目中的一个核心项目，由Apache、Sun 和其他一些公司及个人共同开发而成。因为Tomcat 技术先进、性能稳定，而且免费，因而深受Java 爱好者的喜爱并得到了部分软件开发商的认可，成为目前比较流行的Web 应用服务器。

JDK

JDK是 Java 语言的软件开发工具包，主要用于移动设备、嵌入式设备上的java应用程序。JDK是整个java开发的核心，它包含了JAVA的运行环境（JVM+Java系统类库）和JAVA工具。