Hugging Face 首席科学官担心 AI 正在变成“服务器上的应声虫”

Hugging Face 联合创始人兼首席科学官 Thomas Wolf 最近发文称，如果人工智能研究没有实质性突破，AI 可能仅会成为「服务器上的应声虫」，而非真正的创新者。他进一步解释说，当前的人工智能开发范式无法产生能够进行创造性问题解决的 AI，而这种问题解决能力能够赢得诺贝尔奖。

Wolf 认为，当前的 AI 发展路径难以产生能够进行创造性思考和突破性解决方案的系统。他指出，现有的 AI 模型更像是「非常听话的学生」，擅长填补已知知识之间的空白，但缺乏质疑现有认知框架和提出全新问题的能力。

沃尔夫在文章中写道，「要在数据中心创造爱因斯坦，我们不仅需要一个知道所有答案的系统，而且还需要一个能够提出别人从未想过或不敢问的问题的系统。」沃尔夫将这一问题部分归因于 AI 领域的「评估危机」。他指出，目前用于衡量 AI 系统进步的基准测试大多集中在有明确、封闭式答案的问题上，这限制了系统发展出质疑和创新能力的可能性。

作为解决方案，他建议行业应当发展新的评估标准，能够测量 AI 是否能采取「大胆的反事实方法」，并基于微小线索提出一般性建议。「科学最重要的方面是提出正确问题和质疑自己所学知识的能力，我们不需要一个能用常识回答所有问题的 A+ 学生，而是需要一个能看到并质疑其他人所错过的东西的 B 级学生。」