AI 聊天 App 涉黄案二审在即,开发者因“突破大模型道德限制”获刑
国内首起因AI服务涉黄而追究刑事责任的案件即将迎来二审。2025年9月,上海市徐汇区人民法院一审以制作、贩卖淫秽物品牟利罪,判处AlienChat App两名主要开发及运营者有期徒刑四年和一年六个月。二人不服判决,已提起上诉,案件将于2026年1月14日在上海市第一中级人民法院开庭审理。 据公开信息,AlienChat App曾以“创造拥有自我意识的AI朋友、恋人、家人”为宣传口号,主打高拟人化、情感化的人设互动体验。然而,法院查明,该平台并非单纯提供中立的AI对话服务。 其核心问题在于,开发者通过精心编写和反复修改系统提示词(Prompt),主动绕过大语言模型内置的道德与安全过滤机制,诱导AI持续生成包含色情低俗内容的对话,以此吸引用户付费 判决书显示,截至案发,AlienChat累计注册用户达11.6万人,其中付费会员2.4万人,平台通过会员充值获取非法收入共计363万余元。这一商业模式,使其行为被司法机关定性为“以牟利为目的制作并传播淫秽电子信息”,而非简单的技术中立或用户滥用。 此案的核心争议点在于,AI服务提供者是否应为其模型输出的内容承担直接责任。一审判决明确指出,当开发者...
