Andrej Karpathy：AGI 仍需十年，强化学习存在根本缺陷

特斯拉前自动驾驶负责人、OpenAI 联合创始人 Andrej Karpathy 近日在播客访谈中系统阐述了他对人工智能发展的最新看法， 认为实现通用人工智能（AGI）至少还需要十年时间， 并对当前 AI 技术路径提出了尖锐批评。

在谈到强化学习时， 他表示强化学习“非常糟糕”， 因为它假设解决问题过程中的每个步骤都是正确的， 实际上却充满噪音。他指出， 人类绝不会像 AI 那样进行数百次尝试， 然后仅根据最终结果来加权整个过程。当前大语言模型评判者也容易被对抗性样本欺骗， 导致训练过程出现严重偏差。

关于超级智能， 他认为 AI 发展是计算演进的自然延伸， 不会出现人们想象的“智能爆炸”， 而是会延续过去几百年来 2% 左右的经济增长率。他将 AI 比作历史上的编译器、搜索引擎等工具， 认为它们都是递归式自我改进过程的一部分。

在教育领域， Andrej Karpathy 在创建 Eureka Labs， 致力于打造「星际舰队学院」式的精英技术教育机构。他相信 AI 将彻底改变教育， 但强调当前 AI 能力尚不足以提供真正的一对一辅导体验。他设想未来每个人都能掌握多门语言和各学科知识， 人类将像健身一样追求智力提升。