OpenAI 亲自上阵，推出 AI 文本检测工具
前两天，我们刚报道了斯坦福大学研究出了一个名为 DetectGPT 模型，该模型可以检测出文本段落是否是由一个给定的大型语言模型（LLM）生成的，斯坦福大学将使用 DetectGPT 来应对学生使用 ChatGPT 等 AI 工具作弊和生成论文的现象。
这才没过几天，ChatGPT 的开发商 OpenAI 就决定亲自上阵发布了一个免费的网络工具 AI Text Classifier（需登录 OpenAI 账号使用），这个工具的目的跟 DetectGPT 一样，也是帮助用户识别某一段文本是由人类还是机器写的。
这个工具的使用方式也很简单，用户只需要将一段文字复制到文本框中，系统会对该文本是由 AI 系统生成的可能性进行判断，判断结果从「非常不可能 —— 很有可能」共分成了 5 个等级。
AI Text Classifier 不仅可以检测 ChatGPT 生成的文本，还可以检测其他同类 AI 工具生成的文本。只不过根据 OpenAI 的说法，该工具的准确性目前似乎不是很高。
AI Text Classifier 可以正确地将 26% 的 AI 生成文本识别为「可能是 AI 写的」，而将人类写的文本错误地标记为是由 AI 写的的情况有 9%。
因此，OpenAI 的负责人 Jan Leike 也强调到，这个工具并不完美，既会产生误报也会产生漏报，用户不应该仅仅依靠这一个工具来确定文本的作者。
除了判断结果不够精确以外，OpenAI 还表示该工具更擅长分析由 1000 个以上字符组成的英语文本。AI Text Classifier 不能可靠地评估更短的或用其他语言写的文本片段。此外，该工具也不能准确检测 AI 生成的计算机代码。
从上面的结果来看，为了避免 “冤案错案”，AI Text Classifier 暂时还不适合老师使用。当然，OpenAI 已经了解到教育和其他领域对 AI 生成文本的担忧，他们正在研究其他方法，以帮助人们区分 AI 生成的文本和人类创作的文本。
