AI 教父:应将 1/3 的 AI 预算用于风险管理
Yoshua Bengio 和 Geoffrey Hinton 与其他 22 位领先的人工智能学者及专家,一起提出了一个政策和治理框架,旨在解决与人工智能相关的日益增长的风险。 Yoshua Bengio、Geoffrey Hinton 和 Yann LeCun 曾因在深度神经网络上的卓越贡献,一起获得了 2018 年 ACM A.M. 图灵奖,他们常被外界誉为“AI 教父”和“深度学习之父”。 Bengio 和 Hinton 这次提出的这份文件表示,企业和政府应将三分之一的人工智能研发预算用于人工智能安全,并强调了寻求具体研究突破以支持人工智能安全工作的紧迫性。呼吁开发人工智能的大型私营公司以及政府政策制定者和监管机构采取特别行动。 与其对人工智能能力的投资相当的是,公司和政府应将至少三分之一的人工智能研发预算用于确保安全和合乎道德的使用。 政府迫切需要全面了解人工智能的发展。监管机构应要求模型注册、举报人保护、事件报告以及模型开发和超级计算机使用的监控。 在部署之前,监管机构应有权访问先进的人工智能系统,以评估其危险功能,例如自主复制、闯入计算机系统或使大流行病病原体广泛传播。 政...

