一文读懂深度学习模型近年来重要进展(附梳理图)
唐杰老师学生帮忙整理的Deep Learning模型最近若干年的重要进展。有4条脉络,整理很不错。分享一下。
track1 cv/tensor
1943年出现雏形,1958年研究认知的心理学家Frank发明了感知机,当时掀起一股热潮。后来Marvin Minsky(人工智能大师)和Seymour Papert发现感知机的缺陷:不能处理异或回路、计算能力不足以处理大型神经网络。停滞!
1986年hinton正式地提出反向传播训练MLP,尽管之前有人实际上这么做。
1979年,Fukushima 提出Neocognitron,有了卷积和池化的思想。
1998年,以Yann LeCun为首的研究人员实现了一个七层的卷积神经网络LeNet-5以识别手写数字。
后来svm兴起,这些方法没有很受重视。
2012年,Hinton组的AlexNet在Image