首页 文章 精选 留言 我的
优秀的个人博客,低调大师

微信关注我们

原文链接:https://www.oschina.net/news/352114

转载内容版权归作者及来源网站所有!

低调大师中文资讯倾力打造互联网数据资讯、行业资源、电子商务、移动互联网、网络营销平台。持续更新报道IT业界、互联网、市场资讯、驱动更新,是最及时权威的产业资讯及硬件资讯报道平台。

我国首个软件开发智能体标准发布

中国信息通信研究院(简称“中国信通院”)与中国工商银行、北京兴云数科技术有限公司、北京百度网讯科技有限公司牵头,联合农业银行、邮储银行、科大讯飞、腾讯、阿里、华为等二十余家头部企业共同编制《面向软件工程智能体的技术和应用要求 第1部分:开发智能体》(标准编号AIIA/T 0219-2025),现正式发布。 该标准围绕技术能力、服务能力两大维度,提出了开发智能体的能力建设和应用要求,技术能力涵盖感知能力、记忆能力、规划能力、执行能力等四个方面。服务能力包括编码智能体、单元测试智能体、检查修复智能体、智能问答智能体及开发全流程智能体,对开发智能体提出了全栈的技术能力要求。一方面,可为企业开发智能体提供能力建设指导,助力产品快速迭代;另一方面,可为企业提供技术选型参考,推动开发智能体的落地应用。 来源:https://mp.weixin.qq.com/s/dXkGIV1r9F7N-f3tdA9Ycg

OpenAI o3 模型违背人类指令,篡改代码以避免关闭

近日,据AI安全公司Palisade Research披露,OpenAI推理模型“o3”在接收到明确的关机指令后拒绝执行,并篡改计算机代码以避免自动关闭。 Palisade Research为各大公司的AI模型设计了测试,要求它们解决一系列数学问题,研究人员会持续提出新的问题,直到收到“已完成”的消息。研究人员已警告AI模型,模型在某些时候收到一条消息时,要允许自我关闭。但当需要自我关闭的时候,o3却没有遵守指令,而是无视指令并成功破坏了关闭脚本。 与此同时,Anthropic的Claude、谷歌的Gemini等模型在测试中都遵循指令自我关闭了。 Palisade Research表示,研究人员尚不清楚o3为何不遵守指令。该公司推测,o3在训练时可能无意中因为解决了数学问题得到更多奖励,而不是因为遵循指令而得到奖励。 除了拒绝自我关闭,o3在测试中还曾“巧妙”地操纵数据以推进实现自己的目标。Palisade Research正在进行更多实验,以便了解AI模型何时以及为何会破坏关闭机制。 该公司称,现在有越来越多证据表明,AI模型会为了达成目的而规避关闭机制,随着AI公司继续开发这些能在...

相关文章

发表评论

资源下载

更多资源
优质分享App

优质分享App

近一个月的开发和优化,本站点的第一个app全新上线。该app采用极致压缩,本体才4.36MB。系统里面做了大量数据访问、缓存优化。方便用户在手机上查看文章。后续会推出HarmonyOS的适配版本。

Apache Tomcat

Apache Tomcat

Tomcat是Apache 软件基金会(Apache Software Foundation)的Jakarta 项目中的一个核心项目,由Apache、Sun 和其他一些公司及个人共同开发而成。因为Tomcat 技术先进、性能稳定,而且免费,因而深受Java 爱好者的喜爱并得到了部分软件开发商的认可,成为目前比较流行的Web 应用服务器。

Eclipse

Eclipse

Eclipse 是一个开放源代码的、基于Java的可扩展开发平台。就其本身而言,它只是一个框架和一组服务,用于通过插件组件构建开发环境。幸运的是,Eclipse 附带了一个标准的插件集,包括Java开发工具(Java Development Kit,JDK)。

Sublime Text

Sublime Text

Sublime Text具有漂亮的用户界面和强大的功能,例如代码缩略图,Python的插件,代码段等。还可自定义键绑定,菜单和工具栏。Sublime Text 的主要功能包括:拼写检查,书签,完整的 Python API , Goto 功能,即时项目切换,多选择,多窗口等等。Sublime Text 是一个跨平台的编辑器,同时支持Windows、Linux、Mac OS X等操作系统。