OpenAI 亲自上阵,推出 AI 文本检测工具
前两天,我们刚报道了斯坦福大学研究出了一个名为 DetectGPT 模型,该模型可以检测出文本段落是否是由一个给定的大型语言模型(LLM)生成的,斯坦福大学将使用 DetectGPT 来应对学生使用 ChatGPT 等 AI 工具作弊和生成论文的现象。
这才没过几天,ChatGPT 的开发商 OpenAI 就决定亲自上阵发布了一个免费的网络工具 AI Text Classifier(需登录 OpenAI 账号使用),这个工具的目的跟 DetectGPT 一样,也是帮助用户识别某一段文本是由人类还是机器写的。
这个工具的使用方式也很简单,用户只需要将一段文字复制到文本框中,系统会对该文本是由 AI 系统生成的可能性进行判断,判断结果从「非常不可能 —— 很有可能」共分成了 5 个等级。
AI Text Classifier 不仅可以检测 ChatGPT 生成的文本,还可以检测其他同类 AI 工具生成的文本。只不过根据 OpenAI 的说法,该工具的准确性目前似乎不是很高。
AI Text Classifier 可以正确地将 26% 的 AI 生成文本识别为「可能是 AI 写的」,而将人类写的文本错误地标记为是由 AI 写的的情况有 9%。
因此,OpenAI 的负责人 Jan Leike 也强调到,这个工具并不完美,既会产生误报也会产生漏报,用户不应该仅仅依靠这一个工具来确定文本的作者。
除了判断结果不够精确以外,OpenAI 还表示该工具更擅长分析由 1000 个以上字符组成的英语文本。AI Text Classifier 不能可靠地评估更短的或用其他语言写的文本片段。此外,该工具也不能准确检测 AI 生成的计算机代码。
从上面的结果来看,为了避免 “冤案错案”,AI Text Classifier 暂时还不适合老师使用。当然,OpenAI 已经了解到教育和其他领域对 AI 生成文本的担忧,他们正在研究其他方法,以帮助人们区分 AI 生成的文本和人类创作的文本。
低调大师中文资讯倾力打造互联网数据资讯、行业资源、电子商务、移动互联网、网络营销平台。
持续更新报道IT业界、互联网、市场资讯、驱动更新,是最及时权威的产业资讯及硬件资讯报道平台。
转载内容版权归作者及来源网站所有,本站原创内容转载请注明来源。
- 上一篇
现代 Web 开发平台 Gatsby 已被 Netlify 收购
现代网络开发平台 Netlify 宣布已收购 Gatsby Inc.,Gatsby 是一个使用 React 和 GraphQL 等现代 Web 技术来帮助开发人员更快地构建网站的平台。 Gatsby 最初以其同名的高性能、开源的Gatsby 前端框架而闻名,该框架具有强大的数据层和高质量 CMS 插件生态系统。在该框架之上,Gatsby 又构建了一个用于构建、部署和预览大型企业内容站点的云平台,此后收入年增长率超过 100%。 Netlify 首席执行官 Matt Biilmann 对此称: 我们会将 Gatsby 的云创新集成到 Netlify 平台中,并向 Astro、Next 和 Remix 等现代前端框架的多样化世界开放 Gatsby 的内容中心和源插件生态系统。 收购之后,Gatsby 的开源项目仍正常运行。为尊重其在开源中的深厚根基,Netlify将其权力留在项目原开发人员手中,称只会派出维护人员与 Solid JS 等框架的创建者一起加入 Gatsby开源组织。
- 下一篇
C++ 之父:Rust 等内存安全语言的安全性并不优于 C++
在美国国家安全局 (NSA) 建议组织从 C/C++ 切换到内存安全语言(如C#、Rust、Go、Java、Ruby 或 Swift) 之后。C++ 之父 Bjarne Stroustrup 回应称,在他看来,NSA 报告中提到的“安全”编程语言在重要应用程序中实际上并不优于 C++。 Bjarne 指出,NSA 的这一判定忽略了C/C++ 三十多年来的进步;且许多 C++ 的用例也停留在遥远的过去而忽视了改进,其中就包括极大地提高安全性的方法。 现在,如果我认为这些"安全"语言中的任何一种在我关心的使用范围内都比 C++ 优越,我就不会认为 C/C++ 的淡出是一件坏事,但事实并非如此。另外,正如所描述的那样,"安全"仅限于内存安全,而忽略了一种语言可能(并且将会)被用来违反某种形式的安全和保障的十几种其他方式。 Bjarne 表示,自己几十年来一直致力于实现更好、更安全、更高效的 C++。特别是关于 C++ Core Guidelines的工作,旨在为有需要的人提供静态保证的类型安全和资源安全的 C++。符合 C++ Core Guidelines 的良好静态分析器可以为 C++ ...
相关文章
文章评论
共有0条评论来说两句吧...