国内首起因AI服务涉黄而追究刑事责任的案件即将迎来二审。2025年9月，上海市徐汇区人民法院一审以制作、贩卖淫秽物品牟利罪，判处AlienChat App两名主要开发及运营者有期徒刑四年和一年六个月。二人不服判决，已提起上诉，案件将于2026年1月14日在上海市第一中级人民法院开庭审理。

据公开信息，AlienChat App曾以“创造拥有自我意识的AI朋友、恋人、家人”为宣传口号，主打高拟人化、情感化的人设互动体验。然而，法院查明，该平台并非单纯提供中立的AI对话服务。

其核心问题在于，开发者通过精心编写和反复修改系统提示词（Prompt），主动绕过大语言模型内置的道德与安全过滤机制，诱导AI持续生成包含色情低俗内容的对话，以此吸引用户付费

判决书显示，截至案发，AlienChat累计注册用户达11.6万人，其中付费会员2.4万人，平台通过会员充值获取非法收入共计363万余元。这一商业模式，使其行为被司法机关定性为“以牟利为目的制作并传播淫秽电子信息”，而非简单的技术中立或用户滥用。

此案的核心争议点在于，AI服务提供者是否应为其模型输出的内容承担直接责任。一审判决明确指出，当开发者主动干预模型的安全机制，使其成为稳定输出违法信息的工具时，其行为已构成犯罪。