OpenAI 首席执行官 Sam Altman 在官网发表了回顾 OpenAI 成立 10 周年的博客文章。
![]()
内容翻译如下:
回顾十年间的突破与收获,探寻通往造福全人类的 AGI 之路。
OpenAI 的成就已经远超我当初能想象的程度。我们一开始就打算做一件疯狂、几乎不可能、前所未有的事。从极度不确定的起点出发,顶着一切合理预测都不看好的局面,我们一路坚持努力,如今终于有机会真正实现我们的使命。
十年前的今天,我们向世界宣布了这个计划,尽管正式启动还要等到几周后的 2016 年 1 月初。
从某种意义上说,十年是很长的时间;但从社会变迁的节奏来看,这并不算长。虽然十年来日常生活似乎没太大变化,但今天我们所面对的可能性空间,与当年那 15 个技术宅围坐一起琢磨如何取得突破时相比,已经完全不同。
回看早期的照片,我第一反应是:大家都显得好年轻。而接下来真正让我震撼的,是那种不合常理的乐观,以及每个人脸上明显能看出的快乐。那段时间疯狂而有趣:即便外界对我们极度误解,但我们有坚实的信念,觉得这件事意义重大,值得我们在成功率极低的情况下拼命努力。我们有极具天赋的人才,以及极为明确的专注。
一步一步地,我们通过一些成功(以及更多失败)慢慢积累了对 AI 技术的理解。那时最难的是找出“到底要做什么”,但我们逐渐建立起一种能持续探索的文化。深度学习显然是一项伟大的技术,但如果不把它放进真实世界运行并获得经验,总觉得哪里不对。我就略过那些我们做过的各种尝试(希望未来有人写本书记录下来),但我们一直保持着一个精神:不断解决眼前的下一个障碍,比如研究还能推到哪里、如何筹到更大规模的算力等等。我们也率先进行让 AI 更安全、更可靠的实用性技术研究,而这些基因一直延续到现在。
2017 年,我们取得了多个奠基性成果:
• Dota 1v1 结果,把强化学习推向了全新的规模。
• 无监督情感神经元,证明语言模型确实能学到语义而不仅是句法。
• 基于人类偏好的强化学习(RLHF),为将 AI 与人类价值对齐提供了一条初步路径。
当时我们知道创新远未结束,但也知道要让这些成果真正发挥作用,就必须依赖海量计算规模来放大。
我们持续改进技术,并在三年前推出了 ChatGPT。全球随即关注;而在推出 GPT-4 后,这种关注成倍放大,AGI 不再是一个疯狂的概念。这三年极度紧张、压力巨大、责任沉重;AI 被整合进世界的速度和规模,是任何技术前所未有的。为了应对这一切,我们不得不迅速建立全新的执行能力。从一个小团队成长为庞大的公司,过程中每周都要做数百个决策,这并不容易。我为团队做对的大部分决策感到骄傲,而那些错误基本是我的责任。
我们也不得不做出全新的决策。例如,在思考如何让 AI 最大化造福世界时,我们提出“迭代式部署”,让技术的早期版本提前进入社会,以便人们形成直觉、社会与技术共同演化。当时这一做法颇具争议,但事实证明这是我们最佳决策之一,也成为行业标准。
如今,OpenAI 十周年,我们的 AI 在人类最复杂的智力竞赛中,已经能超越多数最聪明的人类。
全世界已经借助这项技术完成了许多惊人的成果,我们相信未来一年会出现更多非凡成就。世界也在努力缓解潜在风险,我们必须继续推动这一点。
我从未像现在这样,对我们的研究路线、产品路线以及整体使命前景如此乐观。我相信,再过十年,我们几乎可以确定会创造出超级智能(superintelligence)。未来会变得很奇怪:一方面,日常生活和我们最在乎的事也许变化不大,我们依旧会更关注“人类在做什么”,而不是“机器在做什么”;但从另一方面看,2035 年的人类可能具备的能力,是我们如今难以想象的。
我非常感激那些信任我们、使用我们的产品去完成伟大事情的人与公司。没有他们,我们只是实验室里的技术;许多用户在非常早期、带着高度信念押注我们,如果没有这种信任,我们不可能走到今天。
我们的使命是确保 AGI 造福全人类。前路仍然漫长,但我对团队正在推进的轨迹深感自豪。今天大家已经在用这项技术做出巨大的成果,而我们知道未来几年还会有更多突破。
原文:https://openai.com/index/ten-years/