【神经网络会梦到电子羊吗?】“匹配模式”暴露神经网络致命缺陷
今天,只要你生活在互联网的世界,你就可能与神经网络交互。神经网络是一种机器学习算法,从语言翻译到金融建模等各种应用,神经网络都可以发挥作用。它的专长之一是图像识别。谷歌、微软、IBM、Facebook等科技巨头都有自己的照片标签算法。但即使是顶尖的图像识别算法,也会犯非常奇怪的错误。
微软Azure的计算机视觉API添给上面这张图添加了标题和标签:
一群绵羊在郁郁葱葱的山坡上吃草
标签:放牧,绵羊,山,牛,马
但这张图上没有羊。我放到最大,仔细检查了每一个点,没有。
一片绿油油的草原的特写
标签:草,原野,羊,站立,彩虹,男人
这张照片也被标记了绵羊。我碰巧知道附近有绵羊,但这张照片没有拍到没有一只绵羊。
一个石头山坡的特写
标签:山坡,放牧,羊,长颈鹿,牧群
这是另一个例子。实际上,神经网络每次看到这种类型的景观时都会产生幻觉。这是怎么回事?
神经网


