Databricks 推出开源大模型 DBRX:参数规模达 1320 亿、声称全球最强
Databricks 近日宣布推出开源 AI 模型 DBRX,声称是迄今为止全球最强大的开源大语言模型。
DBRX 采用 transformer 架构,包含 1320 亿参数,共 16 个专家网络组成,每次推理使用其中的 4 个专家网络,激活 360 亿参数。
Databricks 在博客介绍称,在语言理解、编程、数学和逻辑方面,对比 Meta 公司的 Llama 2-70B、法国 MixtralAI 公司的 Mixtral 以及马斯克旗下 xAI 开发的 Grok-1 等主流开源模型,DBRX 均优势胜出。
Databricks高管表示,虽然DBRX在某些原始功能上还无法与OpenAI的GPT-4相比,但它无疑是一个功能远超GPT-3.5的替代产品,并且成本只是GPT-3.5的一小部分。
更多细节查看 https://www.databricks.com/blog/introducing-dbrx-new-state-art-open-llm

低调大师中文资讯倾力打造互联网数据资讯、行业资源、电子商务、移动互联网、网络营销平台。
持续更新报道IT业界、互联网、市场资讯、驱动更新,是最及时权威的产业资讯及硬件资讯报道平台。
转载内容版权归作者及来源网站所有,本站原创内容转载请注明来源。
- 上一篇
TypeChat —— 基于 LLM 的自然语言构建 UI 库
TypeChat 是基于 LLM 的自然语言构建 UI 库,由微软开源。它通过 AI 在自然语言和应用程序模式 (application schema),以及 API 之间构建了一座 “桥梁”。 简单来说,TypeChat 是用 “人话” 来构建类型安全 UI 的工具库。 使用示例 用户要求将这句话「我可以要一份蓝莓松饼和一杯特级拿铁咖啡吗?(Could I get a blueberry muffin and a grande latte?)」转换成 JSON,并只用 JSON 格式进行回复: 上面的示例并没指定类型,当指定类型后,TypeChat 的回复如下: TypeChat 支持通过多种不同的方式使用。目前微软讨论的方式主要是使用数据模式将用户意图转换为结构化响应,事实上 TypeChat 还可以使用 API 模式来构建基本程序。
- 下一篇
What's new in PikiwiDB (Pika) v3.5.3 (正式版)
随着 Redis 宣布采用双协议以维护其商业利益,PikiwiDB(Pika) 社区非常荣幸地宣布之际,我们的最新 v3.5.3 正式生产可用版本现已发布。 v3.5.3 版本不仅修复了长期存在的 Bug,还引入了一系列新特性。这些新特性包括 Pika 对 ACL 的支持、移除了 Sharing 模式的残留 Slot 代码、命令执行的快慢分离、Redis Stream 支持、大 key 分析工具、以及 Pika 分布式集群的全自动化 failover 等。此外,我们在 3.5.3 版本中增加了更多的自动化测试用例,以提高 Pika 服务的稳定性和健壮性,确保用户能够享受到更高效、更稳定的使用体验。本文将详细介绍本次更新的主要功能、Bug 修复和性能提升。 在深入探讨 3.5.3 版本的更新内容之前,请注意以下几点声明: 由于商标问题,Pika 项目已更名为 PikiwiDB。在本文中,我们将使用 PikiwiDB(Pika) 来指代项目,项目地址为:https://github.com/OpenAtomFoundation/pika 我们创建了一个新项目 https://github....
相关文章
文章评论
共有0条评论来说两句吧...