山西网安部门集中曝光 5 起近期查处的利用AI技术制造传播网络谣言的典型案例，具体如下：

为博流量虚构“工厂爆炸”场景，企业员工被依法查处

近日，大同网安部门在工作中发现，有网民在某平台发布视频称：“山西大同一车间内发生爆炸，现场只有一名工人受伤，伤者面部烧伤面积100%”，引发网民关注。经查，涉事企业并未发生任何安全事故，相关内容系该企业员工赵某某通过AI工具生成的虚假文案和虚假视频，在互联网平台发布后，引发网民关注，造成不良影响。目前，公安机关已依法对赵某某作出行政处罚。

利用 AI 仿冒名人直播带货，扰乱秩序被依法查处

近日，大同网安部门在工作中发现，辖区居民邢某非法使用中国国民党主席郑丽文形象的AI数字人直播带货，引发网民质疑，严重干扰正常网络秩序。经查，邢某从事直播带货，恰逢郑丽文访问大陆热度很高，遂萌生利用名人热度增加流量的想法。随后，在未经授权的情况下，利用AI工具生成AI数字人形象及带货方案，之后在媒体平台直播带货，引发社会关注，造成恶劣影响。目前，公安机关已依法对邢某作出行政处罚。

AI 生成“高速车祸”谣言，编造“2死6重伤”被依法查处

近日，长治网安部门在工作中发现，网民赵某在某网络平台发布题为“长治人速看！长晋高速大客车侧翻致2死6重伤，道路结冰预警生效，这些行车规则必须记牢！”的贴文，配发多张所谓“事故现场图”，引发网民转发。经查，长晋高速未发生此类交通事故，文中所述内容纯属虚构。赵某承认其为吸引粉丝关注，利用AI工具生成重大事故不实信息并发布。目前，公安机关已依法对赵某作出行政处罚。

利用 AI 伪造“演唱会现场火灾”，为博流量被依法查处

近日，晋城网安部门在工作中发现，某平台网民发布一段视频内容，视频显示为某体育场内疑似发生火灾，并配文称“太原红灯笼体育场突发火情”，该视频迅速引发网民关注与转发，造成不良社会影响。经查，网民张某某在未核实事件真实性、无任何事实依据的情况下，利用AI工具擅自编造“太原红灯笼体育场突发火情”的虚假信息。目前，公安机关已依法对张某某作出行政处罚。

AI 生成虚假文章，发布“五台县车祸”谣言被依法查处

近日，忻州网安部门在工作中发现，某平台网民发布文章《4月29日突发惨烈车祸：大货车侧翻致3死，现场画面曝光》，文中明确提及“山西忻州五台县”，并附有AI生成的事故图片，引发网民广泛关注。经查，五台县近期未发生此类交通事故。发布者田某某交代，其在某APP看到类似标题后，复制链接至AI写作平台生成文章并直接发布。目前，公安机关已依法对田某某作出行政处罚。

公安机关提醒称，当前，利用AI生成虚假图文、音视频已成为网络谣言传播的新趋势。此类信息仿真度高、传播速度快、误导性强，极易引发社会恐慌。公安机关将持续加大对此类违法行为的打击力度，依法查处造谣、传谣、蹭流量、恶意引流等行为。