周鸿祎:大模型降低攻击门槛,人人皆可“注入攻击”
在 2025 中国互联网大会上,当被问及大模型在落地应用过程中可能存在的风险时,360集团创始人周鸿祎深入剖析了人工智能时代下网络安全面临的全新挑战。他指出,相较于传统的IT系统漏洞和数据隐私泄露问题,大模型带来的三大安全风险更应引起高度警惕。 核心风险一:大模型的“幻觉”与胡言乱语 周鸿祎强调,大模型固有的“幻觉”问题是其最大的风险之一。他解释说,当大模型遇到不理解的事物时,会一本正经地编造信息。虽然这在娱乐场景中尚可一笑置之,但当大模型及其衍生的智能体开始深入工业生产、制造以及政府办公等关键领域时,这种“出错”将可能导致严重后果。他特别指出,一旦智能体具备了操纵各种工具的能力,其错误判断的危害和影响将成倍放大。 核心风险二:大模型降低攻击门槛,人人皆可“注入攻击” 周鸿祎提出的第二个风险是,大模型极大地降低了网络攻击的门槛。他指出,大模型使得非编程专业人员也能通过简单的自然语言交互来编写程序,这同时也意味着攻击大模型的门槛也随之降低。通过精心构造的指令,攻击者可以诱导大模型泄露企业机密文件,这种现象被称为“注入攻击”。周鸿祎形象地表示,未来甚至一个不具备编程知识的前台员工,都可能因...