315 晚会曝光 AI 大模型被“投毒”
今年央视 3・15 晚会曝光了一条给 AI 大模型 “投毒” 并操控其输出结果的黑色产业链。 报道指出,GEO 原本是针对生成式 AI 搜索结果的营销优化手段,类似于传统搜索引擎时代的 SEO。然而,不法服务商利用 “生成式引擎优化(Generative Engine Optimization, GEO)” 技术,在互联网上投放大量虚假软文,干预 AI 大模型的信息抓取与交叉验证机制,从而将客户的商业广告或伪造信息,篡改为 AI 推荐给消费者的 “标准答案”。 按照业内人士的爆料,网络平台上从事 GEO 业务的服务商号称,用户只需支付相应的费用,就能在各大主流 AI 大模型里,让客户的产品榜上有名;让客户的商品广告,成为 AI 模型给出的 “标准答案”。一家业内知名的 GEO 服务商负责人王总告诉媒体,他们公司的强项,就是能够帮助客户,在消费者使用 AI 大模型搜索时,让客户排名前列。“就是相当于做软文,然后让 AI 平台去刷录、输入、抓取。” 据悉,在从事 GEO 业务的服务商口中,如何操控 AI、让 AI “听话”、给 AI “洗脑”,几乎是这些公司推广该业务的核心话题。 业内人士...


