人工智能黑客讲述:如何欺骗运用机器学习的安全软件?
今天的主题是 Gmail 对抗式机器学习。 我是学计算机科学、机器学习的,也是负责 AI 相关的研究者,在湾区那边做很多的数据挖掘、安防等相关的工作,我们非常高兴地看到现在很多的人都在做这些对抗机器学习或者深层次学习。 首先 Gmail 本身还是属于一个非常新兴的领域,虽然我们可以看到 AI 已经无处不见。很多网络安全的会议、包括一些世界级的会议,大家都在深入地使用这些技术。这也引起了我个人的兴趣,我也很好奇当看到安全这个主题下为什么 Gmal 机器学习为什么成为天作之合,当我们在工作中用了机器学习,你希望减少一些模型的功能。 我们看到有很多的人都能够利用机器学习来做很好的编程,就好象面部识别,里面有数以万计的探测、识别,这些机器学习都能够做很好。另外对于安防这块的主题,你可能也可以去控制你所产生的功能,但是考虑到不同的内容,你需要做的是有关的工程学,而不是减少这些功能。你要考虑到,在不同的对抗性的尝试当中如何把它放到某个结构里。 我今天做这个演讲主要是和大家分享如何来触发机器学习的模型,帮助它作出错误的决策。 如何欺骗深度神经网络? 这几年这些理念讲的很多,另外一方面它也有自己的复杂...