OpenAI 警示:AI 浏览器恐难完全摆脱提示注入风险
OpenAI 近日承认,带有代理(Agent)能力的 AI 浏览器在结构上难以彻底消除“提示注入”(prompt injection)攻击风险,即便持续加强防护,仍只能将其视为长期安全挑战而非可被完全“解决”的技术问题。 为此,公司正通过更快的安全修补节奏以及大规模自动化攻防演练,试图在真实攻击出现之前主动发现 Atlas 浏览器中的潜在漏洞。 OpenAI 于 10 月正式推出内置在 ChatGPT 中的 Atlas AI 浏览器后,安全研究人员随即演示,只需在 Google Docs 等页面中写入寥寥数语,即可悄然改变浏览器底层行为,这凸显了“代理模式”在访问用户邮箱、网站等开放环境时,安全攻击面被显著放大。 同日,Brave 在博客中也指出,间接提示注入是所有 AI 浏览器面临的系统性难题,Perplexity 的 Comet 等产品同样不例外。 这并非 OpenAI 一家的判断。英国国家网络安全中心(NCSC)本月早些时候警告称,针对生成式 AI 应用的提示注入攻击“可能永远无法被完全缓解”,网站可能因此遭遇大规模数据泄露。 NCSC 建议安全团队转而关注“降低风险和影响”,而...
