OpenAI、谷歌微软等设立 1000 万美元 AI 安全基金
谷歌、微软、OpenAI 和 Anthropic 发布联合声明,任命美国智库学会高管 Chris Meserole 为前沿模型论坛 (Frontier Model Forum) 首任执行董事。并宣布设立 1000 万美元的 AI 安全基金,“以推动正在进行的工具开发研究,帮助社会能够有效地测试和评估最有能力的 AI 模型。” 前沿模型论坛由微软、OpenAI、谷歌和 Anthropic 在今年 7 月联合创立而成,是一个专注于确保安全和负责任地开发前沿人工智能模型的行业机构。该论坛旨在帮助: 推动人工智能安全研究,促进负责任地开发前沿模型并最大限度地降低潜在风险; 确定前沿模型的安全最佳实践; 与政策制定者、学术界、民间社会和其他方面分享知识,推动负责任的人工智能发展; 以及大力支持开发有助于应对社会挑战的 AI 应用程序。 公告指出,AI 安全基金将支持来自世界各地附属于学术机构、研究机构和初创公司的独立研究人员。初始资金来自 Anthropic、谷歌、微软和 OpenAI,以及其他慈善合作伙伴。 基金的主要重点将在于,支持开发新的模型评估技术,以帮助开发和测试前沿系统潜在危险能力的...
