开源日报 | 微软 AI 程序员登场,马斯克开源 Grok
欢迎阅读 OSCHINA 编辑部出品的开源日报,每天更新一期。 # 2024.3.18 今日要点 OpenSource Daily 马斯克开源 Grok 马斯克旗下的 xAI 正式宣布在 Apache 2.0 协议下开源了大模型 Grok-1 的基本模型权重和网络架构。其参数量达到 3140 亿,远超 Meta 的 Llama 2 的 700 亿、Mistral 8x7B 的 120 亿以及 OpenAI GPT-3.5 的 1750 亿;这也是迄今参数量最大的开源大语言模型。 根据介绍,Grok 基础模型基于大量文本数据进行训练,未针对任何特定任务进行微调。其架构于 2023 年 10 月使用 JAX 和 Rust 之上的自定义训练堆栈开发,融合了神经网络设计的创新方法。该模型将 25% 的权重用于给定 token,旨在提高效率和有效性。 历时 20 年,GnuCOBOL 已达到工业成熟度 OCamlPro 创始人兼 GnuCOBOL 贡献者 Fabrice Le Fessant表示,经过 20 年的发展,开源 GnuCOBOL“已经达到了工业成熟度,可以在所有环境中与专有产品竞争。...
