2023 年度人工智能现状报告 (State of AI Report 2023)

stateof.ai 发布了 2023 年度人工智能现状报告 (State of AI Report 2023)。

这份报告由英国知名风投公司 Air Street Capital 的合伙人 Nathan Benaich 等作者联合撰写，报告从研究进展 (Research)、行业局势 (Industry)、政策影响 (Politics)、安全问题 (Safety)、未来预测 (Predictions) 五个维度出发，对人工智能发展现状和未来预期进行了深度分析。

完整报告查看：https://docs.google.com/

报告称，OpenAI 的 GPT-4 在发布八个月后仍然是最强的大语言模型（LLM），“在经典基准测试和旨在评估人类的考试中都击败了所有其他大模型”。

下面是这份报告的要点。

1、研究进展

• GPT-4 登场，展示了专有技术与次优开源替代方案之间的能力鸿沟，同时也验证了通过人类反馈进行强化学习的威力；

• 在 LLaMa-1/2 的支持下，越来越多的人试图用更小的模型、更好的数据集、更长的上下文来克隆或击败专有模型；

• 目前还不清楚人类生成的数据能维持人工智能扩展趋势多久（有人估计，到 2025 年，数据将被 LLM 耗尽），也不清楚添加合成数据会产生什么影响。企业中的视频和数据可能是下一个目标；

• LLM 和扩散模型通过为分子生物学和药物发现带来新的突破，继续为生命科学界提供助力；

• 多模态成为新的前沿，各种智能体热度大大增加。

2、行业局势

• 英伟达凭借各国、初创公司、大型科技公司和研究人员对其 GPU 的巨大需求，跻身市值万亿美元俱乐部；

• 主要芯片供应商开发了不受出口管制影响的替代产品；

• 在 ChatGPT 的带领下，GenAI 的应用程序在图像、视频、编码、语音或 CoPilots 等领域取得了突破性的进展，带动了 180 亿美元的风险投资和企业投资。

3、政策影响

• 世界已划分出明确的监管阵营，但全球治理的进展仍较为缓慢，最大的人工智能实验室正在填补这一空白；

• 据预测，人工智能将影响一系列敏感领域，包括选举和就业，但我们还没有看到显著的影响。

4、安全问题

• 关于生存风险的讨论首次进入主流，并明显加剧；

• 许多高性能的模型很容易「越狱」，为了解决 RLHF 的挑战，研究人员正在探索替代方案，例如自对齐（self-alignment）和带有人类偏好的预训练；

• 随着模型性能的提升，一致地评估 SOTA 模型变得越来越困难。