OpenAI 设立 1000 万美元基金，支持超人类 AI 风险研究-低调大师

OpenAI 设立 1000 万美元基金，支持超人类 AI 风险研究

2023-12-16 424

OpenAI 宣布与 Eric Schmidt 合作，启动了一项 1000 万美元的新资助计划，以支持技术研究，确保超人类人工智能（superhuman AI）系统的一致性和安全性。

“我们相信超级智能可能在未来十年内到来。这些人工智能系统将拥有巨大的能力 —— 它们可能带来巨大的好处，但也可能带来巨大的风险。”

该公司表示，当前确保 AI 系统安全的手段主要是依赖于人工监督的对齐技术（例如 RLHF）。但超人类 AI 系统将能够执行人类无法完全理解的复杂且富有创造性的行为。例如，如果一个超人模型生成一百万行极其复杂的代码，人类将无法可靠地评估这些代码执行起来是安全还是危险，现有的技术可能不再够用。

“这就引出了一个根本性的挑战：人类如何引导和信任比自己聪明得多的人工智能系统？这是世界上尚未解决的最重要的技术问题之一。但我们认为，只要齐心协力，这个问题是可以解决的。现存许多有希望的方法和令人兴奋的方向，以及许多唾手可得的成果。”

作为其 Superalignment 项目的一部分，OpenAI 推出的这一资助计划旨在：

向学术实验室、非营利组织和个人研究人员捐赠 10 万至 200 万美元
并为研究生推出为期一年的 15 万美元奖学金（一半将用于研究经费，另一半将作为津贴）

根据 OpenAI 的说法，申请这一资助资金的研究人员不要求有对齐工作的经验，他们已准备好为尚未在这方面做过任何工作的研究人员提供支持。申请将持续开放至 2 月 18 日，申请人将在申请截止日期后四个星期内收到回复。

申请表单

微信关注我们

原文链接：https://www.oschina.net/news/271307/openai-superalignment-grant-fund

转载内容版权归作者及来源网站所有！

低调大师中文资讯倾力打造互联网数据资讯、行业资源、电子商务、移动互联网、网络营销平台。持续更新报道IT业界、互联网、市场资讯、驱动更新,是最及时权威的产业资讯及硬件资讯报道平台。

今年我国语言大模型市场增长率将超 100%

据央视新闻报道，工业和信息化部赛迪研究院数据显示，2023 年我国语言大模型市场规模实现较快提升，应用场景不断丰富，增长率有望突破 100%。工业和信息化部赛迪研究院数据显示，目前，我国已有超过19个语言大模型研发厂商，其中，15家厂商的模型产品已经通过备案，预计今年我国语言大模型市场规模将达到132.3亿元，增长率将达到110%。语言大模型能够模仿人类的对话和决策能力，是率先实现技术突破和应用落地的大模型，是当下人工智能的主赛道，在金融、医疗、教育、工业、游戏、法律等多个行业应用广泛。专家预测，到2027年，我国语言大模型市场规模有望达到600亿元。

2023-12-16

302

12月16日，腾讯新闻报道称，商汤科技董事长、人工智能科学家汤晓鸥于12月15日在睡梦中不幸离世，享年55岁。汤晓鸥主要从事计算机视觉相关领域的研究，包括多媒体、计算机视觉、模式识别及视频处理，是全球人脸识别技术的“开拓者”和“探路者”。来源：https://view.inews.qq.com/a/20231216A051VT00 最早的网传消息：来源：https://weibo.com/1644054135/Nxokl6vOQ 公开信息显示，汤晓鸥1968年出生于辽宁鞍山，香港中文大学信息工程学系教授、工程学院杰出学人。汤晓鸥于1990年从中国科学技术大学毕业；1991年获得美国罗切斯特大学硕士学位；1996年获得麻省理工学院博士学位，之后进入香港中文大学工作；2001年创立了香港中文大学多媒体实验室；2005年至2007年在微软亚洲研究院工作，担任视觉计算组主任；2008年在深圳先进技术研究院多媒体集成技术研究室工作，担任主任和研究员。汤晓鸥指导的博士生何恺明是深度残差网络 (ResNets) 的主要开发者。深度残差网络使神经网络能够达到前所未有的深度，获得以前难以实现的能...

2023-12-16

412

资源下载

更多资源

优质分享App

近一个月的开发和优化，本站点的第一个app全新上线。该app采用极致压缩，本体才4.36MB。系统里面做了大量数据访问、缓存优化。方便用户在手机上查看文章。后续会推出HarmonyOS的适配版本。

Mario

马里奥是站在游戏界顶峰的超人气多面角色。马里奥靠吃蘑菇成长，特征是大鼻子、头戴帽子、身穿背带裤，还留着胡子。与他的双胞胎兄弟路易基一起，长年担任任天堂的招牌角色。

Nacos

Nacos /nɑ:kəʊs/ 是 Dynamic Naming and Configuration Service 的首字母简称，一个易于构建 AI Agent 应用的动态服务发现、配置管理和AI智能体管理平台。Nacos 致力于帮助您发现、配置和管理微服务及AI智能体应用。Nacos 提供了一组简单易用的特性集，帮助您快速实现动态服务发现、服务配置、服务元数据、流量管理。Nacos 帮助您更敏捷和容易地构建、交付和管理微服务平台。

Rocky Linux

Rocky Linux（中文名：洛基）是由Gregory Kurtzer于2020年12月发起的企业级Linux发行版，作为CentOS稳定版停止维护后与RHEL（Red Hat Enterprise Linux）完全兼容的开源替代方案，由社区拥有并管理，支持x86_64、aarch64等架构。其通过重新编译RHEL源代码提供长期稳定性，采用模块化包装和SELinux安全架构，默认包含GNOME桌面环境及XFS文件系统，支持十年生命周期更新。