因政治滥用,OpenAI 将一家 AI 初创公司拉黑
OpenAI 于日前封禁了一家开发 Chatbot 的 AI 初创公司 Delphi。因为该公司基于 GPT-4,出于政治目的设计了一个模仿美国民主党总统候选人 Dean Phillips 的机器人 Dean.Bot;以与潜在支持者互动并传播候选人的信息,帮助其竞选。
事实上,美国、英国、印度、巴基斯坦和南非等国都计划在 2024 年进行大选。为了防止其技术被滥用,OpenAI 在本月早些时候曾发表了一篇长文,介绍其计划采取的一些措施;其中明确表示不允许人们开发用于政治活动和游说的应用,并且还特别提到了禁止"冒充候选人的聊天机器人 "。
虽然 Dean.Bot 网站有提供免责声明,告知访问者所有的交互都将由聊天机器人生成,而不是 Phillips 本人。但这种使用方式还是直接违反了 OpenAI 的政策。公司发言人在给《华盛顿邮报》的一份声明中也证实了被 OpenAI 封禁的消息。Delphi 的 OpenAI 帐户据称于上周五被封禁,随后该公司就停止了对 Dean.Bot 的访问权限。
现在访问该网站的用户仍然会看到免责声明,但会显示聊天机器人本身已因"技术故障"而宕机:"Apologies, DeanBot is away campaigning right now!"
这也是 OpenAI 首次因开发者违反其 AI 滥用准则而采取审查措施。
