顶级 AI 巨头联合签署“ AI 危险声明”公开信

全球的顶级 AI 领导人在一起签署了一封公开信，信中强调了人工智能的危险，以及它可能对人类造成的巨大伤害。

信中的引言呼吁全球的 AI 商业决策者“公开地讨论人工智能会带来的最大风险”，使更多业内人士和普通民众对人工智能的风险有充足的了解，从而减轻人工智能对人类生存构成的威胁。

但公开信的正文内容并不多，只有寥寥几句话：

Mitigating the risk of extinction from AI should be a global priority alongside other societal-scale risks such as pandemics and nuclear war.

减轻人工智能灭绝的风险应该是全球的优先事项，正如流行病、核战争等其他全人类社会规模的危险一样。

该公开信的参与人都是 AI 领域的名人，比如被称为人工智能“教父”的 Geoffrey Hinton，以及

• OpenAI 的 CEO 兼联合创始人 Sam Altman
• Anthropic 的首席执行官 Dario Amodei、
• Google DeepMind 的首席执行官 Demis Hassabis
• 微软的首席技术官 Kevin Scott

此外还有一大堆涉略或 AI 领域的名校教授、官员记者、社会学家，其中亦有乏国内的清华大学教授、中国科学院教授等人士参与。

比起“正式公告”，这份公开信更像是一份“共识声明”：集合 AI 巨头们的话语权，来呼吁业内人士正视 AI 的发展风险，避免因 ChatGPT 等 AI 技术的狂热浪潮冲昏了头脑。

在此之前，AI 教父、图灵奖得主、深度学习先驱 Geoffrey Hinton 就辞去了在谷歌长达十余年的 AI 开发工作，并公开讨论 AI 所带来的危害。

在一个 MITEmTech 数字会议上，他表达了对当前 AI 发展的恐惧：

过去，我认为计算机模型不如大脑，所以一直改进模型，以让 AI 更多地了解并接近大脑。但现在 GPT-4 等模型的性能让我惊觉，计算机模型以可以使用反向传播，而大脑不行，反向传播可能比人类更擅长学习。

已经能够进行常识性推理的 ChatGTP 非常可怕；继续发展之后，AI 或将可能操纵人类做坏事。

另一方面，缺乏控制的数字智能（Geoffrey Hinto 认为数字智能不同于人类智能），很可能会自行设定与人类目标相冲突的目标，从而使非人类智能在与人类的交互中占据上风。