DeepSeek 发布全球最强开源 MoE 模型-低调大师

DeepSeek 发布全球最强开源 MoE 模型

2024-05-08 436

幻方量化旗下组织深度求索发布了第二代开源 MoE 模型：DeepSeek-V2。

据介绍，在目前大模型主流榜单中，DeepSeek-V2均表现出色:

中文综合能力（AlignBench）开源模型中最强，与GPT-4-Turbo，文心4.0等闭源模型在评测中处于同一梯队
英文综合能力（MT-Bench）与最强的开源模型LLaMA3-70B同处第一梯队，超过最强MoE开源模型Mixtral 8x22B
知识、数学、推理、编程等榜单结果也位居前列
支持128K上下文窗口

各大模型API或Chat版本效果对比

此外，DeepSeek-V2 在模型架构也进行创新，采用了自研的 MLA（Multi-head Latent Attention）和 Sparse 结构，可大幅减少模型计算量、推理显存。

价格方面，DeepSeek-V2 API的定价为：每百万tokens输入1元、输出2元（32K上下文），价格为GPT-4-Turbo的近百分之一。

各大模型API价格对比

就中文能力来看，DeepSeek-V2在全球模型中处于第一档的位置，但其成本却是最低的（下图）。

横轴为每百万输入/输出Tokens平均单价

模型&论文双开源

DeepSeek-V2模型和论文完全开源，免费商用，无需申请：

模型权重：

https://huggingface.co/deepseek-ai

技术报告：

https://github.com/deepseek-ai/DeepSeek-V2/blob/main/deepseek-v2-tech-report.pdf

微信关注我们

原文链接：https://www.oschina.net/news/291284

转载内容版权归作者及来源网站所有！

低调大师中文资讯倾力打造互联网数据资讯、行业资源、电子商务、移动互联网、网络营销平台。持续更新报道IT业界、互联网、市场资讯、驱动更新,是最及时权威的产业资讯及硬件资讯报道平台。

AIGC 应用爆发，相关岗位需求增超 300%

央视财经《正点财经》报道称，随着人工智能应用的爆发，生成式人工智能的招聘市场也十分火爆。在一家大型人工智能软件公司，团队负责人告诉记者，他们团队主要做基于大模型的办公协作类软件的研发，近期正在升级一款面向程序员的代码工具，产品已经在网页端取得不错的成绩，团队想拓展至移动端，却苦于人手不够。记者从这家公司的人力资源部门了解到，多数人工智能业务团队长期都处于招人状态。招聘岗位涉及从底层算力、芯片设计，到模型训练、商业落地等多环节、全链条。招到一个生成式人工智能岗位的平均耗时是普通岗位的两倍。不仅是科技类企业，生成式AI由于商业应用广泛，人才稀缺也蔓延到了其它行业。在一家连锁餐饮企业，技术部门负责人表示，企业的后台系统数据庞大，有千万量级的客户评价，而传统分析方式要么不够精准、要么耗费大量人力。企业急需利用生成式人工智能技术，来更精准地响应客户评价。某餐饮连锁企业信息科技部高级产品经理于文超：顾客给我们评价的时候语序、话术可能比较杂乱。经过AIGC（生成式人工智能）大模型的语义分析处理后的数据，我们可以从中识别到比如服务质量、菜品质量等，对后续经营管理的持续优化迭代产生非常大的指导...

2024-05-08

283

Apple 今日发布 M4 芯片，首搭于 2024 款 iPad Pro。新款 iPad 官方通稿 Apple 推出新款 11 英寸及全新 13 英寸 iPadAir，搭载性能强劲的 M2芯片 Apple 发布全新 iPadPro，带来 Apple 显示屏的新巅峰，携 M4芯片、ApplePencilPro 惊艳登场 M4 芯片以第二代 3 纳米制程工艺打造，采用 SoC 架构，总计集成 280 亿只晶体管，拥有全新显示引擎，采用 4 大核 + 6 小核 CPU（最高达 10 核），号称 CPU 速度比 M2 提升高达 50%。 M4 芯片最多达 10 核的全新中央处理器，包含最多达 4 个性能核心和 6 个能效核心。新一代核心采用经过改进的分支预测技术，其中高性能核心采用了带宽更高的解码和执行引擎，高能效核心则采用了更深层的执行引擎。两种核心也都采用了性能更强的新一代机器学习加速器。 GPU 方面，M4 芯片的 10 核图形处理器构建于 M3 系列芯片的新一代图形处理器架构之上。首次为 iPad 带来动态缓存、硬件加速光线追踪和硬件加速网格着色功能。相比前代 iPad Pro 搭...

2024-05-08

832

资源下载

更多资源

优质分享App

近一个月的开发和优化，本站点的第一个app全新上线。该app采用极致压缩，本体才4.36MB。系统里面做了大量数据访问、缓存优化。方便用户在手机上查看文章。后续会推出HarmonyOS的适配版本。

腾讯云软件源

为解决软件依赖安装时官方源访问速度慢的问题，腾讯云为一些软件搭建了缓存服务。您可以通过使用腾讯云软件源站来提升依赖包的安装速度。为了方便用户自由搭建服务架构，目前腾讯云软件源站支持公网访问和内网访问。

Nacos

Nacos /nɑ:kəʊs/ 是 Dynamic Naming and Configuration Service 的首字母简称，一个易于构建 AI Agent 应用的动态服务发现、配置管理和AI智能体管理平台。Nacos 致力于帮助您发现、配置和管理微服务及AI智能体应用。Nacos 提供了一组简单易用的特性集，帮助您快速实现动态服务发现、服务配置、服务元数据、流量管理。Nacos 帮助您更敏捷和容易地构建、交付和管理微服务平台。

Rocky Linux

Rocky Linux（中文名：洛基）是由Gregory Kurtzer于2020年12月发起的企业级Linux发行版，作为CentOS稳定版停止维护后与RHEL（Red Hat Enterprise Linux）完全兼容的开源替代方案，由社区拥有并管理，支持x86_64、aarch64等架构。其通过重新编译RHEL源代码提供长期稳定性，采用模块化包装和SELinux安全架构，默认包含GNOME桌面环境及XFS文件系统，支持十年生命周期更新。