OpenAI 设立 1000 万美元基金，支持超人类 AI 风险研究-低调大师

OpenAI 设立 1000 万美元基金，支持超人类 AI 风险研究

2023-12-16 445

OpenAI 宣布与 Eric Schmidt 合作，启动了一项 1000 万美元的新资助计划，以支持技术研究，确保超人类人工智能（superhuman AI）系统的一致性和安全性。

“我们相信超级智能可能在未来十年内到来。这些人工智能系统将拥有巨大的能力 —— 它们可能带来巨大的好处，但也可能带来巨大的风险。”

该公司表示，当前确保 AI 系统安全的手段主要是依赖于人工监督的对齐技术（例如 RLHF）。但超人类 AI 系统将能够执行人类无法完全理解的复杂且富有创造性的行为。例如，如果一个超人模型生成一百万行极其复杂的代码，人类将无法可靠地评估这些代码执行起来是安全还是危险，现有的技术可能不再够用。

“这就引出了一个根本性的挑战：人类如何引导和信任比自己聪明得多的人工智能系统？这是世界上尚未解决的最重要的技术问题之一。但我们认为，只要齐心协力，这个问题是可以解决的。现存许多有希望的方法和令人兴奋的方向，以及许多唾手可得的成果。”

作为其 Superalignment 项目的一部分，OpenAI 推出的这一资助计划旨在：

向学术实验室、非营利组织和个人研究人员捐赠 10 万至 200 万美元
并为研究生推出为期一年的 15 万美元奖学金（一半将用于研究经费，另一半将作为津贴）

根据 OpenAI 的说法，申请这一资助资金的研究人员不要求有对齐工作的经验，他们已准备好为尚未在这方面做过任何工作的研究人员提供支持。申请将持续开放至 2 月 18 日，申请人将在申请截止日期后四个星期内收到回复。

申请表单

微信关注我们

原文链接：https://www.oschina.net/news/271307/openai-superalignment-grant-fund

转载内容版权归作者及来源网站所有！

低调大师中文资讯倾力打造互联网数据资讯、行业资源、电子商务、移动互联网、网络营销平台。持续更新报道IT业界、互联网、市场资讯、驱动更新,是最及时权威的产业资讯及硬件资讯报道平台。

今年我国语言大模型市场增长率将超 100%

据央视新闻报道，工业和信息化部赛迪研究院数据显示，2023 年我国语言大模型市场规模实现较快提升，应用场景不断丰富，增长率有望突破 100%。工业和信息化部赛迪研究院数据显示，目前，我国已有超过19个语言大模型研发厂商，其中，15家厂商的模型产品已经通过备案，预计今年我国语言大模型市场规模将达到132.3亿元，增长率将达到110%。语言大模型能够模仿人类的对话和决策能力，是率先实现技术突破和应用落地的大模型，是当下人工智能的主赛道，在金融、医疗、教育、工业、游戏、法律等多个行业应用广泛。专家预测，到2027年，我国语言大模型市场规模有望达到600亿元。

2023-12-16

323

12月16日，腾讯新闻报道称，商汤科技董事长、人工智能科学家汤晓鸥于12月15日在睡梦中不幸离世，享年55岁。汤晓鸥主要从事计算机视觉相关领域的研究，包括多媒体、计算机视觉、模式识别及视频处理，是全球人脸识别技术的“开拓者”和“探路者”。来源：https://view.inews.qq.com/a/20231216A051VT00 最早的网传消息：来源：https://weibo.com/1644054135/Nxokl6vOQ 公开信息显示，汤晓鸥1968年出生于辽宁鞍山，香港中文大学信息工程学系教授、工程学院杰出学人。汤晓鸥于1990年从中国科学技术大学毕业；1991年获得美国罗切斯特大学硕士学位；1996年获得麻省理工学院博士学位，之后进入香港中文大学工作；2001年创立了香港中文大学多媒体实验室；2005年至2007年在微软亚洲研究院工作，担任视觉计算组主任；2008年在深圳先进技术研究院多媒体集成技术研究室工作，担任主任和研究员。汤晓鸥指导的博士生何恺明是深度残差网络 (ResNets) 的主要开发者。深度残差网络使神经网络能够达到前所未有的深度，获得以前难以实现的能...

2023-12-16

428

资源下载

更多资源

腾讯云软件源

为解决软件依赖安装时官方源访问速度慢的问题，腾讯云为一些软件搭建了缓存服务。您可以通过使用腾讯云软件源站来提升依赖包的安装速度。为了方便用户自由搭建服务架构，目前腾讯云软件源站支持公网访问和内网访问。

Nacos

Nacos /nɑ:kəʊs/ 是 Dynamic Naming and Configuration Service 的首字母简称，一个易于构建 AI Agent 应用的动态服务发现、配置管理和AI智能体管理平台。Nacos 致力于帮助您发现、配置和管理微服务及AI智能体应用。Nacos 提供了一组简单易用的特性集，帮助您快速实现动态服务发现、服务配置、服务元数据、流量管理。Nacos 帮助您更敏捷和容易地构建、交付和管理微服务平台。

Spring

Spring框架（Spring Framework）是由Rod Johnson于2002年提出的开源Java企业级应用框架，旨在通过使用JavaBean替代传统EJB实现方式降低企业级编程开发的复杂性。该框架基于简单性、可测试性和松耦合性设计理念，提供核心容器、应用上下文、数据访问集成等模块，支持整合Hibernate、Struts等第三方框架，其适用范围不仅限于服务器端开发，绝大多数Java应用均可从中受益。

Sublime Text

Sublime Text具有漂亮的用户界面和强大的功能，例如代码缩略图，Python的插件，代码段等。还可自定义键绑定，菜单和工具栏。Sublime Text 的主要功能包括：拼写检查，书签，完整的 Python API ， Goto 功能，即时项目切换，多选择，多窗口等等。Sublime Text 是一个跨平台的编辑器，同时支持Windows、Linux、Mac OS X等操作系统。