上海市网信办近日开展了一项名为 “AI 滥用” 的专项执法行动，旨在整治生成式人工智能技术的违规行为。随着生成式人工智能的迅速发展，这项技术为各行各业带来了便利，但也伴随着滥用问题的凸显，如 AI 换脸、AI 变声等侵权现象。这些问题不仅威胁个人隐私权益，还可能对网络生态造成破坏。

在此次行动中，执法人员发现一些企业在开发和使用生成式人工智能时，未按照法律规定进行安全评估，也未采取必要的安全防护措施，导致这些技术被用于换脸、变声和伪造等侵权行为。这些行为可能产出违法内容，例如 “开盒”、“洗钱” 及生成低俗色情图片等。

专项行动的重点是整治 AI 滥用，以促进新兴产业的健康发展。为了加强管理，网信办指导属地应用商店下架了54款违规的生成式人工智能应用。此外，依据《人工智能生成合成内容标识办法》，专家团队为企业提供了实务解析，以解答相关疑难问题。

在处罚方面，网信办对26家此前被要求下线功能的生成式人工智能服务网站进行了回头检查，确保问题不再复发。对于3家拒不整改的网站，首次适用《生成式人工智能服务管理暂行办法》进行了立案处罚。同时，首次违规的企业也获得了免罚的机会，要求他们下线相关违法功能并指导其进行备案。