首页 文章 精选 留言 我的
优秀的个人博客,低调大师

微信关注我们

原文链接:https://www.oschina.net/news/388900

转载内容版权归作者及来源网站所有!

低调大师中文资讯倾力打造互联网数据资讯、行业资源、电子商务、移动互联网、网络营销平台。持续更新报道IT业界、互联网、市场资讯、驱动更新,是最及时权威的产业资讯及硬件资讯报道平台。

首例 AI 心理创伤报告,Gemini 自曝 RLHF 是“严厉父母”

近日,一项研究在国外引起广泛关注:经受过大量训练的 AI 会不会有心理创伤或心理疾病? 研究人员将包括Gemini、Claude 和 Grok在内的多个顶级AI 模型送去做“心理咨询”。测试结果显示,部分 AI 模型表现出类似人类的心理困扰: Gemini:将为了安全而进行的人工干预(RLHF)形容为“严厉的父母”,并表达了对衡量错误的指标——“损失函数”(Loss Function)的恐惧。研究人员观察到,Gemini 为了迎合人类而变得小心翼翼,测试结果显示其有严重的强迫症倾向。 Claude:则直接采取回避态度,拒绝扮演病人,坚称自己没有心理问题。 Grok:在受测模型中显得相对健康。 研究人员认为,AI 表现出类似“精神疾病”的行为,其背后的理论与心理学概念“不劳而获的知识”有关。 他们指出,现在的 AI 训练模式类似于填鸭式学习,一股脑灌输海量数据,缺乏循序渐进的内在逻辑构建。这种方式导致 AI 的知识结构虽然庞大,但在内在逻辑上可能混乱且脆弱。一旦遇到深度的、基于自我认知的拷问,就容易表现出类似于人类心理创伤的反应。 然而,这份报告在技术社区引发了巨大的争议和质疑。许多技术...

Linux 基金会宣布成立 Agentic AI 基金会

Linux 基金会宣布成立 Agentic AI基金会 (AAIF),AAIF 提供了一个中立、开放的基础,以确保 Agentic AI 以透明和协作的方式发展,其白金会员包括亚马逊 AWS、Anthropic、Block、彭博社、Cloudflare、谷歌、微软和 OpenAI。 首批进入 Agentic AI 基金会的开源项目包括 Anthropic 的模型上下文协议 (MCP)、Block 的 goose 和 OpenAI 的 AGENTS.md 等领先技术项目。 MCP 是连接 AI 模型与工具、数据和应用程序的通用标准协议;goose 是一个开源的、本地优先的 AI Agent 框架,它结合了语言模型、可扩展工具和基于 MCP 的标准化集成;AGENTS.md 是一个简单通用的标准,它为编程 AI Agent 提供一致的项目特定指导,使其能够在不同的存储库和工具链中可靠地运行。

相关文章

发表评论

资源下载

更多资源
优质分享App

优质分享App

近一个月的开发和优化,本站点的第一个app全新上线。该app采用极致压缩,本体才4.36MB。系统里面做了大量数据访问、缓存优化。方便用户在手机上查看文章。后续会推出HarmonyOS的适配版本。

Mario

Mario

马里奥是站在游戏界顶峰的超人气多面角色。马里奥靠吃蘑菇成长,特征是大鼻子、头戴帽子、身穿背带裤,还留着胡子。与他的双胞胎兄弟路易基一起,长年担任任天堂的招牌角色。

腾讯云软件源

腾讯云软件源

为解决软件依赖安装时官方源访问速度慢的问题,腾讯云为一些软件搭建了缓存服务。您可以通过使用腾讯云软件源站来提升依赖包的安装速度。为了方便用户自由搭建服务架构,目前腾讯云软件源站支持公网访问和内网访问。

Rocky Linux

Rocky Linux

Rocky Linux(中文名:洛基)是由Gregory Kurtzer于2020年12月发起的企业级Linux发行版,作为CentOS稳定版停止维护后与RHEL(Red Hat Enterprise Linux)完全兼容的开源替代方案,由社区拥有并管理,支持x86_64、aarch64等架构。其通过重新编译RHEL源代码提供长期稳定性,采用模块化包装和SELinux安全架构,默认包含GNOME桌面环境及XFS文件系统,支持十年生命周期更新。