首页 文章 精选 留言 我的
优秀的个人博客,低调大师

微信关注我们

原文链接:https://www.oschina.net/news/361975

转载内容版权归作者及来源网站所有!

低调大师中文资讯倾力打造互联网数据资讯、行业资源、电子商务、移动互联网、网络营销平台。持续更新报道IT业界、互联网、市场资讯、驱动更新,是最及时权威的产业资讯及硬件资讯报道平台。

周鸿祎:大模型降低攻击门槛,人人皆可“注入攻击”

在 2025 中国互联网大会上,当被问及大模型在落地应用过程中可能存在的风险时,360集团创始人周鸿祎深入剖析了人工智能时代下网络安全面临的全新挑战。他指出,相较于传统的IT系统漏洞和数据隐私泄露问题,大模型带来的三大安全风险更应引起高度警惕。 核心风险一:大模型的“幻觉”与胡言乱语 周鸿祎强调,大模型固有的“幻觉”问题是其最大的风险之一。他解释说,当大模型遇到不理解的事物时,会一本正经地编造信息。虽然这在娱乐场景中尚可一笑置之,但当大模型及其衍生的智能体开始深入工业生产、制造以及政府办公等关键领域时,这种“出错”将可能导致严重后果。他特别指出,一旦智能体具备了操纵各种工具的能力,其错误判断的危害和影响将成倍放大。 核心风险二:大模型降低攻击门槛,人人皆可“注入攻击” 周鸿祎提出的第二个风险是,大模型极大地降低了网络攻击的门槛。他指出,大模型使得非编程专业人员也能通过简单的自然语言交互来编写程序,这同时也意味着攻击大模型的门槛也随之降低。通过精心构造的指令,攻击者可以诱导大模型泄露企业机密文件,这种现象被称为“注入攻击”。周鸿祎形象地表示,未来甚至一个不具备编程知识的前台员工,都可能因...

谷歌发布“OSS Rebuild”应对开源软件供应链安全问题

为应对开源软件供应链安全问题,谷歌宣布推出OSS Rebuild开源工具,帮助开发者通过重现构建过程验证开源软件包的完整性,防范恶意篡改风险。 公告写道: 开源软件已成为我们数字世界的基础。从关键基础设施到日常应用,OSS 组件现在占现代应用的 77%。据估计,其价值超过 12 万亿美元,开源软件从未如此成为全球经济的重要组成部分。 OSS Rebuild 是一个通过重现上游软件构建过程来增强对开源软件包生态系统信任的新项目。随着供应链攻击继续针对广泛使用的依赖项,OSS Rebuild 为安全团队提供了强大的数据,以避免妥协,同时不对上游维护者造成负担。 OSS Rebuild 可自动生成符合 SLSA Build Level 3 标准的可验证记录,无需维护者额外投入。该工具能帮助安全团队检测未经验证的代码、被入侵的构建环境及潜在后门,同时增强元数据并优化漏洞响应效率。 目前,OSS Rebuild 支持 PyPI、npm 和 Crates.io 生态,未来将扩展至更多平台。开发者可通过命令行获取构建来源信息并验证软件包。

相关文章

发表评论

资源下载

更多资源
优质分享App

优质分享App

近一个月的开发和优化,本站点的第一个app全新上线。该app采用极致压缩,本体才4.36MB。系统里面做了大量数据访问、缓存优化。方便用户在手机上查看文章。后续会推出HarmonyOS的适配版本。

腾讯云软件源

腾讯云软件源

为解决软件依赖安装时官方源访问速度慢的问题,腾讯云为一些软件搭建了缓存服务。您可以通过使用腾讯云软件源站来提升依赖包的安装速度。为了方便用户自由搭建服务架构,目前腾讯云软件源站支持公网访问和内网访问。

Nacos

Nacos

Nacos /nɑ:kəʊs/ 是 Dynamic Naming and Configuration Service 的首字母简称,一个易于构建 AI Agent 应用的动态服务发现、配置管理和AI智能体管理平台。Nacos 致力于帮助您发现、配置和管理微服务及AI智能体应用。Nacos 提供了一组简单易用的特性集,帮助您快速实现动态服务发现、服务配置、服务元数据、流量管理。Nacos 帮助您更敏捷和容易地构建、交付和管理微服务平台。

Spring

Spring

Spring框架(Spring Framework)是由Rod Johnson于2002年提出的开源Java企业级应用框架,旨在通过使用JavaBean替代传统EJB实现方式降低企业级编程开发的复杂性。该框架基于简单性、可测试性和松耦合性设计理念,提供核心容器、应用上下文、数据访问集成等模块,支持整合Hibernate、Struts等第三方框架,其适用范围不仅限于服务器端开发,绝大多数Java应用均可从中受益。