阿里发布新一代安全架构核心技术“AI安全诊断大师”
如同一些出生免疫力即有缺陷的人一样,AI天生也存在免疫力缺陷。例如,车辆的辅助驾驶和自动驾驶系统会因算法技术缺陷丧失识别交通指示牌的能力,成为“没有视觉系统”的汽车,从而给出错误的决策,遇到大型障碍物时“看不到”停车标志,一头撞上去。
AI模型对微小扰动很敏感,一些细微不可见的改动就可以引起算法上的巨大误差,往往带来可怕的安全威胁。基于从源头打造安全免疫力的新一代安全架构理念,最近,阿里安全发布了一项核心技术“AI安全诊断大师”,可对AI模型全面体检,“看诊开方”,让AI模型出生就自带增强型免疫力,抵御安全威胁。
“AI安全诊断大师”包括一款对AI模型安全性进行评测和防御的工具箱,对多个云上算法接口进行安全性测试后,还沉淀出一套在实际生产中能对恶意攻击进行过滤,降低安全风险的AI防火墙系统。
据阿里安全图灵实验室高级算法专家华棠介绍,“AI安全诊断大师”提供了全方位的体检与诊断开方服务,对AI模型进行体检后,通过诊断算法可能出错的特殊情形,给模型防御增强提供细化“健康”指导。
值得注意的是,这种“安全诊断”看得见。“AI安全诊断大师”提供了一个可视化界面,以模型的损失曲面分析图呈现被评估AI模型的输入扰动及响应表现,可以直观地看出AI模型的总体安全性能,曲面越平缓,AI遭遇攻击时,抵御攻击的能力更强。
“AI安全诊断大师”的可视化诊断结果界面
除了提供总体安全性能评估的“体检报告”,“AI安全诊断大师”可通过指定评测数据集生成针对某几种特定攻击的性能报告,提供不同攻击算法下更细化的安全性指标。它可以提供即插即用的安全能力,对于那些不方便“面诊”的“患者”,比如只能提供API接口的AI服务,“AI安全诊断大师”提供“云体检”服务,只需调用接口即可评测AI的安全性。
“AI安全诊断大师”给多个算法API出具的遭遇攻击的体检报告
“AI安全诊断大师”检测到算法服务的潜在安全风险后,还有针对恶意攻击的防火墙功能,定制化提供防御升级的建议。
“将多种攻击检测和对抗防御方法作为附加模块,可为AI模型部署前置服务,在不修改原模型的基础上,提升模型对于对抗样本攻击的防御性能,降低用户使用成本和风险。经过在色情、暴恐、敏感图像识别等多种内容安全服务上的测试,‘AI安全诊断大师’可将模型对外部攻击的有效防御能力整体提升40%以上。”华棠说。
不久前,阿里安全曾发布了一个高效打造AI深度模型的“AI训练师助手”,让AI训练模型面对新场景时不用从头学习,直接从已经存在的模型上迁移,迅速获得别人的知识、能力,成为全新的AI模型,将模型打造周期从一个月缩短为一天。在阿里新一代安全架构的指导下,阿里安全图灵实验室不断致力于磨砺出提升AI效率,保障AI安全的技术和产品,推动AI安全的相关技术更好地应用于实际场景中。
中国科学院计算技术研究所副研究员王树徽评价:“阿里安全从整体层面考虑了人工智能安全的架构性漏洞,提出了‘安全基建’的构想和技术系统。在关键技术层面,集成了最新的AI攻防技术,充分考虑了人工智能安全攻防两端的应用需求,分析结果可解释性强,易于理解并指导实践。在实用层面,提供了一套切实可行、即插即用的解决方案,定制化提出防御升级方案,帮助广大人工智能技术实践者有效提高其算法系统的免疫力和安全水平。此外,阿里安全的新一代安全架构的应用成果也有望促进人工智能技术的发展和进步,为新一代人工智能的理论方法研究提供了支持。”
目前阿里安全正与相关部门、企业、高校一起参与人工智能安全标准的制定,“AI安全诊断大师”的落地成果也作为优秀应用案例,被收录于全国信息标准化技术委员会打造的《人工智能安全标准化白皮书(2019版)》。
低调大师中文资讯倾力打造互联网数据资讯、行业资源、电子商务、移动互联网、网络营销平台。
持续更新报道IT业界、互联网、市场资讯、驱动更新,是最及时权威的产业资讯及硬件资讯报道平台。
转载内容版权归作者及来源网站所有,本站原创内容转载请注明来源。
- 上一篇
被“摸底”的任天堂,遭史上最大规模的黑客攻击
Wii主机的完整源码/设计方案和N64技术演示流出,成任天堂史上最大规模的泄露事件。 4月底,任天堂曾发布声明称,因为黑客入侵,大约16万Switch用户信息被盗取,NNID 账户(任天堂上一代账号系统)被非法登录。当时,任天堂的处理方式是“重置受影响账户的密码,同时也禁止用户通过NNID登录其Nintendo账户”。但是,在声明中未曾见到攻击者如何访问NNID账户的更多详细信息,只是提及账户密码是“通过除服务以外的其他方式非法获取的”。 1600万的泄露风波还没有平静,短短几日,任天堂再遭大规模黑客攻击。 N64、NGC、Wii等前代任天堂主机的源代码被泄露到4chan等论坛上,总数据量达到2TB。根据 ResetEra论坛上的信息,这次泄露的数据似乎来自任天堂的一家合作公司BroadOn(聘请开发Wii的大部分硬件和软件),黑客通过攻击 BroadOn 服务器没,从而获得了Wii的重要信息。包括: boot0/1/2的源代码 每个系统组件的框图/数据表以及AES/SHA的Verilog BroadOn描述功能规划和实现的文档 + API + 内部软件的文档 完整的IOS SDK( ...
- 下一篇
华为OceanStor存储高速增长领跑全球,18年上升期如何打造?
【51CTO.com原创稿件】第一个问题:数字经济与传统经济的最大区别是什么?本质的区别在于数据成为关键生产要素。第二个问题:数字经济目前最大的发展瓶颈是什么?是仍有海量的数据没有被存储和应用。第三个问题:如何突破这个瓶颈?答案是听听中国存储市场排名第一、全球存储增长速度最快的华为怎么说。 日前,华为云与计算BG副总裁,数据存储与机器视觉产品线总裁周跃峰接受了51CTO记者的采访,他分享了华为对于2020年存储在数字经济中价值的一些新思考,并且回顾了华为OceanStor存储成长为全球领跑者的整个历程。在采访中,他的很多观点都非常有借鉴价值,对于数字经济的未来繁荣有极大的帮助。 为数字经济而生,华为存储18年强劲增长 51CTO记者请周跃峰先回答文章开篇的第三个问题,海量的数据没有被存储和应用这个瓶颈该如何解决?他告诉记者,表面上看数据只要被简单的存储就可以解决这个问题,但实际上更深层次的问题有很多:首先,海量数据存储的成本能否降到大多数企业可以接受的程度,价格高昂势必影响数据的存储量;其次,数据是被存储了,但如何让它发挥价值?数据用得好,其实并没有那么高深,周跃峰以疫情期间最受关注的...
相关文章
文章评论
共有0条评论来说两句吧...
文章二维码
点击排行
推荐阅读
最新文章
- CentOS6,7,8上安装Nginx,支持https2.0的开启
- Linux系统CentOS6、CentOS7手动修改IP地址
- Windows10,CentOS7,CentOS8安装MongoDB4.0.16
- SpringBoot2整合Thymeleaf,官方推荐html解决方案
- CentOS7,CentOS8安装Elasticsearch6.8.6
- CentOS7编译安装Gcc9.2.0,解决mysql等软件编译问题
- Eclipse初始化配置,告别卡顿、闪退、编译时间过长
- Springboot2将连接池hikari替换为druid,体验最强大的数据库连接池
- CentOS关闭SELinux安全模块
- CentOS7设置SWAP分区,小内存服务器的救世主