百度安全发布PaddleSleeve 面向产业实践开启AI模型安全与隐私探索
伴随人工智能技术对产业智能化升级进程的推动作用不断加深,AI模型的安全防护与隐私保护问题也日渐成为业内关注的焦点。
9月26日,百度安全正式对外发布了基于百度飞桨开源深度学习平台的安全与隐私工具PaddleSleeve。以场景为驱动,覆盖现实风险,支持产业级模型,为企业和开发者打造更为贴近实践应用的模型安全强化选项,开启AI模型安全与隐私的新探索。
在同日举行的2021 CCS成都网络安全大会AI安全专题论坛上,百度安全部主任架构师包沉浮详细讲解了PaddleSleeve的主要功能和关键能力。
百度安全部主任架构师包沉浮在2021 CCS成都网络安全大会发布PaddleSleeve
众所周知,作为AI安全最为底层的保障环节之一,AI模型安全正面临着多维和紧迫的安全挑战。根据对目前已知攻击行为的分析,攻击者可通过数据投毒、模型后门等方式,在训练及预备部署阶段即生成有缺陷的AI模型;而利用模型鲁棒性自身存在的问题或借助模型窃取、数据提取等手段,其也能够在部署阶段非法获取模型和隐私数据。
为此,包括Google Tensorflow、Facebook Pytorch在内的不少国内外主流深度学习平台先后推出了相关安全工具,尝试为上述一系列问题的解决提供研究支撑。依托百度飞桨,百度安全的PaddleSleeve则旨在提供一个不止于学术研究、更适应于产业实践的安全工具。以场景驱动、现实风险、产业级模型为三大核心理念,为有高安全性、高隐私性需求的场景提供端到端的安全技术支撑,并全面覆盖AI模型所需应对的从Security到Safety再到Privacy的各个层面的安全挑战。
具体而言,PaddleSleeve可为企业和开发者带来两个层面的实用功能:
其一,在模型攻击与评估层面,PaddleSleeve融合了百度安全Advbox对抗样本攻击及Robustness鲁棒性评估等诸多能力,并新增了对飞桨2.X版本的支持,引入了更多前沿攻击算法和模型集成迁移攻击策略。同时,聚焦于隐私性,PaddleSleeve也能够支持AUC、Recall、结构相似度、峰值信噪比(Peak SNR)等隐私攻击效果评估指标,并可实现对模型数据被还原风险及模型是否存在关键信息泄露风险的检测。
其二,在模型防御层面,PaddleSleeve支持多个业界前沿、性能良好的对抗训练方法,企业和开发者可通过新训练、模型精调等方式进行对抗训练,并可借助多种过滤算法在不修改模型的情况下实现非侵入式的对抗鲁棒性增强。而基于差分隐私扰动、梯度压缩等方法的隐私增强优化器,其也可帮助企业和开发者更为便捷地训练出可有效抵御常见隐私窃取攻击的模型。
目前,PaddleSleeve已在多个场景中实现对飞桨自定义及预训练模型,ResNet、YOLO等通用产业级模型的支持。而伴随一系列新功能的不断加入,百度安全也希望与学术界、产业界持续展开合作,以场景为驱动,面向产业实践,为AI模型安全与隐私保护提供更好的能力支撑。
秉承“有AI,更安全”的使命,百度安全始终致力于携手多方力量共同推动AI安全开放生态的建设。作为一个开源项目,我们欢迎大家的加入,和我们一起推动PaddleSleeve功能的完善与拓展。
低调大师中文资讯倾力打造互联网数据资讯、行业资源、电子商务、移动互联网、网络营销平台。
持续更新报道IT业界、互联网、市场资讯、驱动更新,是最及时权威的产业资讯及硬件资讯报道平台。
转载内容版权归作者及来源网站所有,本站原创内容转载请注明来源。
- 上一篇
浅谈语音质量保障:如何测试 RTC 中的音频质量?
日常音视频开会中我们或多或少会遭遇这些场景:“喂喂喂,可以听到我说话吗?我听你的声音断断续续的”,“咦,我怎么可以听到回声?”,“太吵啦,我听不清楚你在说啥” 等等。这些语音质量问题影响音视频开会体验,如若是重要的会议,那足够让人 “恼羞成怒”。那么如何有效的减少这些问题发生呢?本系列文章就将为大家分享阿里云视频云在保障 RTC 语音质量方面的测试经验。 作者|柯淮 审校|泰一 背景介绍 音频质量是指正常网络下的听觉质量和音频 3A 算法质量。听觉质量,是在无损网络情况下人耳对语音优劣的主观感受。但在实际生活中,不同人对同一声音可能会有不同的优劣判断,另外还会受到收听环境和收听心理影响。在测试时,我们可以从声音三要素:响度、音高、音色纬度出发,对一些指标进行量化评估。另外业内标准还会将这些量化指标通过一定的加权处理以期望拟合主观感受,比如 POLQA、PESQ 等。 音频 3A 算法是指: AGC: Automatic gain control(自动增益控制) ANS: Adaptive noise suppression(噪声抑制) AEC: Acoustic echo cancel...
- 下一篇
项目任务日志管理系统 PLOGS 1.1.4 发布,增加任务协作功能
当前版本v1.1.4,更新内容: 功能增加:增加任务派发协作功能,增加项目干系人和任务干系人管理功能 功能增加:增加项目自定义属性查询条件 功能增加:增加项目属性排序字段,允许前台项目查询时按照自定义排序进行属性展示
相关文章
文章评论
共有0条评论来说两句吧...
文章二维码
点击排行
推荐阅读
最新文章
- Docker使用Oracle官方镜像安装(12C,18C,19C)
- SpringBoot2更换Tomcat为Jetty,小型站点的福音
- Springboot2将连接池hikari替换为druid,体验最强大的数据库连接池
- MySQL8.0.19开启GTID主从同步CentOS8
- CentOS6,7,8上安装Nginx,支持https2.0的开启
- SpringBoot2整合Thymeleaf,官方推荐html解决方案
- CentOS关闭SELinux安全模块
- CentOS7设置SWAP分区,小内存服务器的救世主
- Docker安装Oracle12C,快速搭建Oracle学习环境
- Docker快速安装Oracle11G,搭建oracle11g学习环境