2017年度NLP领域论文TOP10(附链接)
论文 | Attention Is All You Need
链接 | https://www.paperweekly.site/papers/224
源码 | https://github.com/Kyubyong/transformer
大道至简,Google Brain 在本文中提出了一个新型的简化网络架构—Transformer,完全基于注意力机制,完全避免了循环和卷积,完全可并行。
本文可以说是 Google 继 Highway Network 等新型神经网络之后,在神经网络模块化的又一尝试。
扩展阅读:
Attention is All You Need | 每周一起读(http://mp.weixin.qq.com/s/J-anyCuwLd5UYjTsUFNT1g)
一文读懂「Attention is All You Need
