MIT开发新型神经网络训练技术,打开AI决策黑箱
神经网络是一种模仿生物神经网络(如大脑)的结构和功能的数学模型或计算模型,它能在训练数据的过程中寻找模式以对数据进行预测和分类。近年来,神经网络的研究极大促进了人工智能的发展,科学家用它开发出不少高性能的系统应用——比如用神经网络识别数字图像中的某些对象或推断文本主题等。
虽然神经网络在受到训练之后能够很好地将数据分门别类,但是,即使是它的设计者也无从得知它们是如何思考的。它就像一个黑匣子。若是进行图像识别,也许还能通过反向运行神经网络找出它识别和决策的内在因素,正如雷锋网(公众号:雷锋网)文章《深度 | Nature:我们能打开人工智能的“黑箱”吗?》中曾提到的,Tyka 和 Google 的研究员为了深入研究黑箱问题而开发的 Deep Dream 算法,从一个图形开始,好比说一朵花或者一个沙滩,通过修改它来提高特定的顶级神经元的
