OpenAI CEO 奥特曼称目前并未训练 GPT-5
OpenAI 首席执行官奥特曼（Sam Altman）上周确认，OpenAI 并未训练其 ChatGPT 的第五个版本，而是专注于提高 GPT-4 模型的能力和完善其监管规则。 据外媒 The Register 报道，上周奥特曼远程参与了麻省理工学院 MIT 的活动，并接受了计算机科学家和播客 Lex Fridman 对 AI 的提问。在这段对话中，奥特曼正面回答了最近闹得沸沸扬扬的业界联名公开信。 暂停训练先进 AI 系统公开信 此前马斯克 (Elon Musk)、苹果联合创始人 Steve Wozniak、图灵奖得主 Yoshua Bengio 等上千名行业高管和专家签署了一封公开信，呼吁所有 AI 实验室立即暂停对比 GPT-4 更强大的 AI 系统的训练至少 6 个月，其中特别点名了OpenAI 。奥特曼对此回应称： 我认为这封信没有技术含量，里面缺少了技术性细节，比如我们到底需要在哪一步暂停…… 这封信的早期版本声称我们现在正在训练 GPT-5。我们现在没有，而且在一段时间内也不会。 我们正在继续完善 GPT-4 ，需要解决各种安全问题。 除了回应 GPT-5 问题，奥特曼也对这封联名信的部分内容表示了赞同，例如 AI 企业和从业者确实应该确保人工智能模型的安全，并符合人类价值观。 泛滥的人工智能 AI 生成的垃圾内容越发泛滥，如Reddit 等论坛充斥着越来越多由 ChatGPT 生成，并由机器人帐户发布的内容，让版主疲于招架。这些垃圾邮件机器人经常宣传成人内容、非法药物和不法供应商销售的产品。 Reddit Technology 专区版主 abrownn 也公开抱怨：“机器人问题已经非常严重，Reddit 的自动反垃圾邮件系统几乎没有帮助。版主手动去控制的时候，机器人账号的广告目的早已达成。” OpenAI 启动漏洞赏金计划 OpenAI 推出漏洞悬赏计划，最高 2 万美元。该计划由 OpenAI 与网络安全公司 Bugcrowd 合作运营，研究人员可以将找到的漏洞报告给 OpenAI，之后 OpenAI 将根据漏洞严重程度给予 200 到 2 万美元不等的经济奖励。 该计划也是 OpenAI 为开发更安全和更先进 AI 的一种承诺，也符合 OpenAI 的宗旨 ——「我们的使命是确保通用人工智能造福全人类」。
