英特尔公布 1 万亿参数 AI 模型,比 ChatGPT 大 570%
在 ChatGPT 的推动下,如今有越来越多的公司开始参与生成式 AI 的开发了,大模型领域也 “越来越卷”。英特尔是最新参与进来的玩家,并在近日公布了一个名为 Aurora genAI 的产品,它是一个主要用于科学领域的生成式 AI 模型。 英特尔 Aurora genAI 模型以 Megatron 和 DeepSpeed 为基础,其规模达到了 1 万亿个参数(1 Trillion Parameters,上图中有对应描述),相比之下 ChatGPT 的规模仅为 1750 亿参数,Aurora genAI 在参数规模上增长了约 570%。 Aurora genAI 模型将在通用文本、科学文本、科学数据和与该领域相关的代码上进行训练。这将是一个纯粹以科学为重点的生成式 AI 模型,其潜在的应用范围是: 推动清洁能源聚变研究 催化剂研究 癌症研究 航空航天研究 神经科学研究 宇宙学研究 拥有这么大的规模,那么驱动 Aurora genAI 模型背后的算力肯定也不容小觑。英特尔透露,他们使用的是名为 Aurora(欧若拉)的超级计算机,这是英特尔与阿贡国家实验室和 HPE 合作开发的百万兆级...