随着一张电影海报被翻出，热度一下子冲上网站前五 ，很多人都在 Tumblr 刷屏“求云盘” “带价拿资源”。但其实，马丁·斯科塞斯根本就没有拍过这部电影，人类历史上也没有一部名为 Goncharov 的电影！这意味着，一张挂名“ Martin Scorsese ”的电影海报，几句互联网背后的虚构影评，最终演变成了一场群体欺骗，直至现在还有人坚信这部电影的存在。

心理学将这样的现象称之为“媒体等同”（media equation），人类天生会倾向一些群体性认同事件，换言之，当群体对同一件事情表现出肯定时，个体对事件往往会丢失判断。你或许会说，怎么可能，难道我就没有独立思考吗？来看下面这张图片👇

表面上，这是一个被压废墟的孩子，让人怜惜，但细看，孩子左手为六根手指。央视新闻后续为此事件辟谣，该视频为 AI 生成内容，并称：AI 让造谣变得更简单和更“科学”。诸如此类的 AI 乌龙还有很多，比如川普被捕、AI 教皇，只要不是原则性问题，大家反而对这样的“欺骗”趋之若鹜。

如果说 Goncharov 的群体欺骗，是藏在人性里的戏谑因子，那么，在人工智能迭代如此迅速的今天，AI “欺骗”人类，是技术缺陷还是人为？AI 所掀起的全球狂热，是否也该降降温？既然 AI 存在一定的失准，我们如何与 AI 相处？笔者想静下心来和大家聊聊。

 

技术之病：AI 幻觉

AI 本身就有“病”—— AI Hallucinations （即：“AI幻觉”）。

简单理解，它是指诸如 GPT4 、PaLM 、DeepSeek 等大语言模型“一本正经地胡说八道”，将编造的事实与多个段落的连贯性和一致性编织在一起，且称之为真实信息的情况。比如，人有三条腿（常识错误）、李逵大闹五台山（剧情混淆）、第一个登上月球的人是 Charles （实际上是 Neil ，历史虚构）、阿联酋的首都是迪拜（实际上是阿布扎比，数据干扰）...大致分为两类：

• 事实性幻觉：指模型生成的内容与可验证的现实世界事实不一致

• 忠实性幻觉：指模型生成的内容与用户的指令或上下文不一致

就拿现在很多企业普遍接入的 DeepSeek R1 来说，幻觉率高达 14.3% ，远高于 V3 的 3.9% 。

如果说 AI 幻觉是病，这些病是如何来的呢？

首先，病从口入，大数据的数据缺陷，是导致 AI 产生幻觉的一大原因。这其中包括数据缺陷、数据中捕获的事实知识的利用率较低。

具体来说，数据缺陷分为错误信息和偏见（重复偏见、社会偏见），此外大模型也有知识边界，所以存在领域知识缺陷和过失的事实知识——即便大模型吃掉了大量数据，也会在利用时出现问题。

除了数据，训练过程也会使大模型产生幻觉。

• 预训练阶段

【架构缺陷】：基于前一个 token 预测下一个 token，这种单项建模阻碍了模型捕捉复杂的上下文关系的能力；随着 token 长度增加，不同位置的注意力被稀释；

【曝露偏差】：模型推理时依赖于自己生成的 token 进行后续推测，错误的 token 会在整个 token 中产生级联错误。

• 对齐阶段：

【能力错位】：大模型内在能力与标注数据中描述的功能之间可能存在错位。（边界在哪里，也就放大了幻觉的风险）；

【信念错位】：基于 RLHF 等的微调，使大模型的输出更符合人类偏好，进而牺牲信息真实性。

简言之，AI 的幻觉之病，并不是单一因素导致，而是数据集、架构、算法、训练、推理等等，一系列的发展态叠加而成。

图片来源：《 DeepSeek 与 AI 幻觉》@清华大学

既然 AI 幻觉会带来如此多不确定性，科学家为什么不尝试“去幻觉”？事实是，有些问题从根本上就无解，我们能做的：只有与幻觉共存。

不过，在某些特定的情况下，AI 幻觉也可能有一些“意外”的好处。比如，大卫·贝克团队获得 2024 诺贝尔化学奖，源于 AI 幻觉的“错误折叠”启发出新型蛋白质结构；DeepMind 团队发现，AI 在图像分割任务中产生的“超现实边界”虽不符合真实场景，却意外提升了自动驾驶对极端天气的识别精度...

以至于，科学界目前正在构建“ AI 幻觉-实验验证-理论重构”三阶段研究流程，试图通过 AI 幻觉却发现一些人类尚未探索过的可能。

 

市场之病：AI 狂欢

从千模大战，到 DeepSeek 一骑绝尘，AI 市场的狂欢背后，是每天少说都有十几个 AI 新项目如雨后春笋一般诞生。笔者相信这些项目不单是追风口、蹭热度，而是 AI 开辟出了新的道路、新的可能。

但高投入和低收益之间的“剪刀差”的背后，仿佛大家都开诚布公地默认了一件事情：搞 AI 就能赚钱！这又何尝不是一种病态！

根据摩根士丹利的计算，亚马逊、谷歌、Meta 和微软这四大科技巨头整 2024 年的资本支出达到 2460 亿美元，其中大部分资金流向了 AI 领域，大头是数据中心和先进芯片的建设，但实际产生的收益却不够理想，反而在继续加码。

IT 桔子统计，34 家 AI 上市公司中，有 19 家在 2024 年上半年仍然处于亏损状态。显然，尽管 AI 技术发展迅速，但大多数 AI 公司仍未实现盈利。反而，第一批吃螃蟹的人除了像英伟达这种提供芯片的公司，就是赶上 AI 风口利用信息差割韭菜的自媒体博主。

为什么搞 AI 难赚钱，市场上还是有那么多狂热分子？

首先，覆水难收。即便在大模型高唱降本的今天，想要研究一个大模型出来，所投入的资金、物力、人才都是极为庞大的。高昂的开发门槛，砸出了一个巨大的资金缺口，如果后面不持续投入，活到云开见日的那一天，前面的所有心血都会打水漂。（还不如赌一把！对吧。）

来源：新浪财经

其次，市场开拓不足。俗话说，好马配好鞍，我花了那么多钱砸出来的 AI 产品，第一时间肯定是想开拓稳定的 ToB 、ToG 市场对吧。但这类赛道，不仅决策期长，市场容量小，还伴随一系列的人情边际，一个招标文件就能急死一大批 AI 老板，谁能不发疯？（如果 AI 老板是技术出身，疯得更快！）

那么，ToC 赛道呢？聊个人之常情的逻辑：有多少人用，才是 C 端市场的容积，一旦面临经济下行或消费转移，就容易引发一系列的连锁反应。同时，在如此激烈的抢人环境下，许多 AI 公司不得不采取烧钱补贴、广告曝光的策略来争夺市场份额，实际利润也就被稀释了。具体可以参考下图👇

这些都是沉默成本啊...

并且，AI 技术并不具备任何的商业逻辑，市场上的狂热，也只能由市场去慢慢消化。笔者认为，市场之病，目前还只处于 1.0 阶段，当大批量的 AI 公司搁浅，市场上仅剩下几极之后，2.0 的 AI 市场才可能慢慢自愈。

 

个体之病：AI 依赖

AI 作为这个时代的新质生产力，确实带给了人们很多的便利。比如，我要写这篇稿子，可以找 AI 帮我写个框架；开会要做总结，可以让 AI 帮我划重点；专业名词不了解，交给 AI ，除了得到答案，还可以得到一些拓展性回答。

偷懒起来，简直不要太爽！但渐渐的，我发现：AI 其实只能帮助我们在短时间内提升一个领域的认知下限，对于一些专业性极强、需要实操，并伴生多种知识体系的领域（如：生命科学、国际经贸等），光是靠 AI 问问题，无异于管中窥豹。

并且，对于普罗大众来说，目前的 AI 应用更偏重于提升效率，如 AI 搜索、AI 总结、AI 写作，越是将简单的工作交给 AI ，人们的内心预判就越不会觉得 AI 做得不好（但其实 AI 的出错率真的很高），就越容易产生 AI 依赖。

2024 年的最后一天，南方日报发了一篇《“AI 依赖症”怎么治》的文章，其中点名：大学生作业里充满了 AI 味，文科生快失去了原创写作的能力。

据英国高等教育政策研究所发布的调研，1250 名英国本科生中，有 53% 的学生正在使用 AI 写论文，而在使用 AI 的学生中，25% 的人用 AI 来制定论文主题，还有 5% 的学生直接承认曾直接将 AI 生成内容复制粘贴到论文中。

“这一现象已经不是新问题了。我们曾经发现，学生的毕业论文里，有的段落的中文‘不像中文’，后来才知道，学生是将自己以前发表的英文论文用 AI 工具翻译成中文粘贴过来。”南京大学人工智能学院副院长戴新宇教授表示。

百度相关问题的索引

不仅如此，纯靠 AI 在职场上也混不走。

今年 2 月，美国知名律所 Morgan & Morgan 向 1000 多名律师发送了紧急邮件，警告称 AI 可能生成虚假的判例信息，若律师在法律文件中使用这些虚构内容，可能会被解雇。

不可否认，生成式 AI 技术极大地缩短了律师研究判例和撰写的时间，但 AI 也存在“编造事实”的风险。

反观国内的医疗行业，则是在“ AI 诊疗”上频加红线，北京市卫健委明确指出：医疗机构开展互联网诊疗活动要加强药品管理，严禁使用人工智能等自动生成处方，且人工智能软件等不得冒用、代替医师本人提供诊疗服务。

真是应了那句话：AI 能帮你上班，但不能帮你背锅。那么，在这个高喊 All in AI 的时代，普通人该如何相处呢？笔者总结为八个字：敬畏工具，保持怀疑。

AI 真的只是一个工具而已，当你在使用 AI 的同时，不妨也向 AI 学习，它的思考方式、思维广度，与 AI 共舞更能促进 AI 的发展；其次，开篇也提到了，虽然在群体认同保持清醒很难，但保持怀疑，却很简单，不妨试试！

 

AI 有病，但它并不是我们的敌人，这一点需要明确。

之所以放在最后来说，是因为笔者在查资料的过程中，发现了很多科学家正在研究如何降低 AI 幻觉，已经有很多企业开始了 AI 商业的探索，并且身边的很多人都开始将 AI 看作是映射自身的镜子，透过 AI 这个时代产物去完善自身的缺陷。AI 的未来，其实就是与人类共愈的过程。