“你的深度学习框架包含15个漏洞”,360说 | 附论文
注意!你的深度学习框架有漏洞!
这个警告来自360安全实验室(Qixue Xiao、Deyue Zhang)、佐治亚大学(Kang Li)和弗吉尼亚大学(Weilin Xu)的研究者,他们在一篇论文中,对TensorFlow、Caffe、Torch三个深度学习框架中的第三方软件包进行了研究,并在其中查找漏洞,最后得出最开头的研究结论。
尽管这还只是一项初步研究,但研究人员仍然在三个框架中发现了15个漏洞,类型包括:DoS拒绝服务攻击、躲避攻击等。
他们说:“深度学习框架是复杂的,重度依赖大量开源软件包。”这些依赖库,也正是漏洞的根源。
潜藏风险的依赖库
一个典型的、用深度学习框架开发出来的AI应用,在部署时往往是这样的三层结构:
最上面一层,是开发者看得见的深度学习应用,包含应用逻辑、深度学习模型和相应

