arXiv 计算机科学部门主席 Thomas Dietterich 日前发声告诫平台用户称,平台行为准则规定,凡在论文上署名的作者,无论论文内容是如何产生的,均须对论文的所有内容承担全部责任。
如果生成式 AI 工具生成不当语言、抄袭内容、带有偏见的内容、错误、疏漏、错误引用或误导性内容,并且这些输出内容被包含在科学著作中,则责任由作者承担。
“如果一篇投稿包含确凿证据,证明作者未对大语言模型(LLM)生成的结果进行核查,这意味着我们无法相信该论文中的任何内容。”
确凿的证据示例包括:虚构的引用、LLM 的 meta-comments(例如,“这是一份200字的摘要;您需要我做任何修改吗?”;“此表中的数据仅供示意,请用您实验中的实际数值填入”)
Dietterich 表示,平台已针对此类行为制定了相应的处罚措施:即,论文作者将面临一年内禁止在 arXiv 上发表论文,之后提交给 arXiv 的论文必须先被信誉良好的同行评审期刊接受。
为了应对日益增多的低质量 AI 生成论文,arXiv 此前已采取了多项措施,例如要求首次发布论文的作者必须获得知名作者的推荐等。且在由康奈尔大学运营超过 20 年后,该组织正转型为独立的非营利机构,以筹集更多资金解决 AI 垃圾论文等问题。
Dietterich 向 404 Media 表示,这将是一项“one-strike”的规则,但版主必须先标记问题,版块主席也必须确认证据后才能实施处罚。作者还可以对处罚决定提出上诉。
