印度政府近日对埃隆·马斯克旗下的社交平台 X（原 Twitter）发出严厉指令，要求其立即对人工智能聊天机器人 Grok 进行技术与程序上的深度整改。此前，多名用户及立法者指控该工具被滥用，生成了包括针对女性和未成年人的“淫秽”及色情图像。

印度信息技术部周五正式下达命令，指示 X 公司必须限制 Grok 生成涉及“裸露、性化、露骨色情或非法”的内容。关键细则如下：

• 72小时期限：X 平台须在72小时内提交详细的行动报告，说明防止托管或传播法律禁止内容（包括恋童、色情及不雅内容）的具体措施。

• 安全港危机：命令警告，若 X 不遵守指令，将危及印度法律赋予其作为互联网平台的“安全港”保护。一旦失去此资格，X 将需对用户生成的非法内容承担直接法律责任。

• 严厉制裁：违规行为可能导致平台及其负责人面临印度《信息技术法》和《刑法》的严厉刑事制裁。

此次监管行动源于印度议员普里扬卡·查图尔维迪（Priyanka Chaturvedi）的正式投诉。她指出，用户正通过 Grok 诱导 AI 修改个人照片(主要是女性)，生成高度性化的虚假图像。此外，近期报道披露 Grok 还曾生成涉及未成年人的性暗示图片。

尽管 X 公司已承认安全措施存在漏洞并删除了相关违规图片，但外界发现，部分由 AI 修改的性化图像在平台上仍处于可访问状态。

截至目前，X 公司与 xAI 尚未对印度政府的最新命令作出正式回应。