该放弃正在堕落的“RNN和LSTM”了
递归神经网络(RNN),长期短期记忆(LSTM)及其所有变体:
现在是放弃它们的时候了!
在2014年,LSTM和RNN重新复活。我们都阅读过Colah的博客和Karpathy对RNN的赞赏。但那个时候我们都很年轻,没有经验。随着这几年的技术的发展,我们才慢慢发现序列变换(seq2seq)才是真正求解序列学习的真正模型,它在语音识别领域创造了惊人的结果,例如:苹果的Siri,Cortana,谷歌语音助手Alexa。还有就是我们的机器翻译,它可以将文档翻译成不同的语言。
然后在接下来的15年、16年,ResNet和Attention模型出现了。人们可以更好地认识到了LSTM其实就是一种巧妙的搭桥技术。注意,MLP网络可以通过平均受上下文向量影响的网络来取代,这个下文再谈。
通过两年的发展,今天我们可以肯定地说:“放弃你的RNN和LSTM!”
低调大师中文资讯倾力打造互联网数据资讯、行业资源、电子商务、移动互联网、网络营销平台。
持续更新报道IT业界、互联网、市场资讯、驱动更新,是最及时权威的产业资讯及硬件资讯报道平台。
转载内容版权归作者及来源网站所有,本站原创内容转载请注明来源。
- 上一篇
Vectoraic:中以人工智能+区块链,再掀无人驾驶热潮
指纹识别、人脸识别、智能搜索、智能机器人……,这些我们已经耳熟能详的技术都属于人工智能的序列范围之内,近30年来,人工智能在很多学科领域都获得了广泛的应用,人工智能的时代已然来临,那如果在人工智能的基础上,加上2018开年最in热词——区块链,会怎样? 3月23日,2018中以人工智能与区块链行业高峰论坛在广州四季酒店成功举办,本次论坛由以色列驻广州总领事馆、粤嘉基金、未来财经主办,链虎财经联合举办,以色列Vectoraic创始人及首席运营官Aviram Malik、中国比特币CEO李大伟、粤嘉基金董事孟可、yibite Mr.Bug、阿希链创始人单青峰、极豆资本创始人张议云、人工智能标准化组织研究员赵戎等一众行业大佬莅临峰会。 技术共赢:人工智能与区块链互解难题 作为人工智能领域的技术大拿,单青峰认为区块链技术与人工智能达成合作的潜力
- 下一篇
阿里达摩院布局“中国芯”,自研AI芯片性价比超同类40倍
4月19日,澎湃新闻记者从阿里巴巴达摩院获悉,该机构正研发一款神经网络芯片——Ali-NPU,运用于图像视频分析、机器学习等AI推理计算。按照设计,这款芯片性能将是目前市面上主流CPU、GPU架构AI芯片的10倍,而制造成本和功耗仅为一半,性价比超过40倍。 此款芯片的研发,未来将会更好的实现AI智能在图像、视频识别、云计算等商业场景中的运用,提升运算效率、降低成本。 阿里达摩院研究员骄旸对澎湃新闻表示,CPU、GPU作为通用计算芯片,为处理线程逻辑和图形而设计,处理AI计算问题时功耗高,性价比低,在AI计算领域急需专用架构芯片解决上述问题。 阿里巴巴自主研发的Ali-NPU,基于阿里机器智能技术实验室等团队在AI领域积累的大量算法模型优势,根据AI算法模型设计微结构以及指令集,以最小成本实现最大量的AI 模型算法运算。 未来,Ali-N
相关文章
文章评论
共有0条评论来说两句吧...
文章二维码
点击排行
推荐阅读
最新文章
- Docker快速安装Oracle11G,搭建oracle11g学习环境
- SpringBoot2更换Tomcat为Jetty,小型站点的福音
- SpringBoot2整合MyBatis,连接MySql数据库做增删改查操作
- SpringBoot2初体验,简单认识spring boot2并且搭建基础工程
- CentOS8,CentOS7,CentOS6编译安装Redis5.0.7
- CentOS7,CentOS8安装Elasticsearch6.8.6
- CentOS7安装Docker,走上虚拟化容器引擎之路
- Docker安装Oracle12C,快速搭建Oracle学习环境
- SpringBoot2配置默认Tomcat设置,开启更多高级功能
- Linux系统CentOS6、CentOS7手动修改IP地址