开源日报 | OpenAI“草莓”曝光;DeepMind抄袭开源成果;MoE也有Scaling Law;程序员工作会消失吗?
欢迎阅读 OSCHINA 编辑部出品的开源日报,每天更新一期。 # 2024.7.15 今日要闻 OpenAI 新研发项目“草莓”曝光,用于提升大模型的推理能力 OpenAI 正在开发一项代号为「草莓」(Strawberry)的 AI 模型技术。内部文件显示,这一项目旨在提升 AI 的高级推理能力,使其不仅能够生成查询答案,还能自主规划并开展复杂研究。 据知情人士透露,OpenAI 希望通过 Strawberry 项目显著提高其 AI 模型的推理能力,克服当前 AI 在常识性问题上的不足。 Strawberry 的前身是去年首度披露的突破性项目 Q*。今年早些时候,OpenAI 小范围展示了用 Q* 解决当前模型难以应对的科学和数学难题。Strawberry 的关键在于「后训练」,这是在现有模型「预训练」过程之后附加的步骤,可以进一步优化 AI 模型的性能。这类似于斯坦福大学 2022 年发布的「自学推理」(Self-Taught Reasoner, STaR),都是通过训练数据的迭代来提升水平。 openKylin 2.0 RC 作为 openKylin 2.0 正式版发布前的一个重...


