被“开源”的 LLaMA 成最大赢家
本文源自一份被意外泄露的谷歌内部文件,作者是谷歌内部的一名研究员。虽然他在文章中提出了不少有意思的观点,但仅代表其本人的意见,并非谷歌公司的观点,而且许多其他研究人员也不同意这些观点。 原文:https://www.semianalysis.com/p/google-we-have-no-moat-and-neither 这名谷歌员工声称,在当下这场 AI 军备竞赛中,开源人工智能 (Open Source AI) 将会胜过谷歌和 OpenAI,成为最大赢家。他还认为,谷歌没有护城河,OpenAI 也没有。 文件提到,今年 3 月初 Meta 的大语言模型 LLaMA 被泄露后,开源社区得到了第一个真正意义上的具备能力的基础模型。尽管 LLaMA 没有指令或对话调整,也没有 RLHF,但社区深刻认识到其重要性。随之而来的是巨大创新涌现,仅仅一个月后,就出现了包含指令调优、量化、质量改进、人工评估、多模态、RLHF 等 LLaMA 变体,其中许多变体建立在彼此之上。 延伸阅读:被泄露的大语言模型 LLaMA,助长了一系列 ChatGPT 开源替代品 虽然大公司的模型在质量方面仍然略有优势...


