在ISC.AI 2025上海大模型安全论坛上，360集团创始人周鸿祎在致辞中指出，AI发展面临着恶意利用、内容安全、“幻觉”问题、提示词攻击等风险，大模型既是生产力工具，也可能成为新的攻击载体和攻击入口，政府和企业的数据资产、商业机密面临着前所未有的暴露风险，保障AI安全是一项长期而艰巨的任务，需要各方协同努力。

会上，360还发布了国内首个多智能体协同的大模型安全卫士。具体来看，其内容安全智能体通过垂直领域专业模型训练，提供智能判定、风险内容检测及安全回复代答等关键能力。通过建立五道“内容防线”，提供超过100个风险类目识别能力，确保输入输出双向安全。同时以测促防，持续对模型回复内容进行评测，识别潜在攻击风险。

AI Agent安全智能体通过原生安全机制，全面保障AI Agent在执行任务过程中的数据安全与权限控制，有效防范自动规划与执行中可能出现的行为失控问题，把大模型能力“关在笼子里”。

幻觉抑制智能体通过搜索增强、知识增强与对齐增强技术，提升大模型推理过程的准确性，有效抑制因内容时效性缺失、数据过时等因素引发的大模型“幻觉”问题，确保生成内容真实可信。

软件安全智能体能够高效识别开源软件，精准定位AI软件的安全漏洞。覆盖从模型训练到推理的全链路安全检测，支持识别模型服务相关组件、生态链漏洞扫描与多语言代码审计，保障AI软件供应链生命周期的安全性。

此外，360将大模型安全卫士融入安全运营体系，通过整合安全大模型、安全大脑平台、大模型安全卫士及终端探针工具的核心能力，构建“网数模一体化”安全运营平台，实现安全运营系统性重塑与升级。

360数字安全集团副总裁余凯表示，AI安全是一个高门槛的技术领域，需要同时具备AI技术积淀、安全实战经验、真实场景验证和海量语料积累。360通过自身大规模AI业务场景验证产品能力，同时沉淀了海量安全语料，构建起核心竞争力。目前，360大模型安全卫士已在公司内外多项业务中实现深度应用。