百度安全发布PaddleSleeve 面向产业实践开启AI模型安全与隐私探索
伴随人工智能技术对产业智能化升级进程的推动作用不断加深,AI模型的安全防护与隐私保护问题也日渐成为业内关注的焦点。 9月26日,百度安全正式对外发布了基于百度飞桨开源深度学习平台的安全与隐私工具PaddleSleeve。以场景为驱动,覆盖现实风险,支持产业级模型,为企业和开发者打造更为贴近实践应用的模型安全强化选项,开启AI模型安全与隐私的新探索。 在同日举行的2021 CCS成都网络安全大会AI安全专题论坛上,百度安全部主任架构师包沉浮详细讲解了PaddleSleeve的主要功能和关键能力。 百度安全部主任架构师包沉浮在2021 CCS成都网络安全大会发布PaddleSleeve 众所周知,作为AI安全最为底层的保障环节之一,AI模型安全正面临着多维和紧迫的安全挑战。根据对目前已知攻击行为的分析,攻击者可通过数据投毒、模型后门等方式,在训练及预备部署阶段即生成有缺陷的AI模型;而利用模型鲁棒性自身存在的问题或借助模型窃取、数据提取等手段,其也能够在部署阶段非法获取模型和隐私数据。 为此,包括Google Tensorflow、Facebook Pytorch在内的不少国内外主...

