NLP&深度学习：近期趋势概述（一）-低调大师

NLP&深度学习：近期趋势概述（一）

2018-09-19 612

在最近发表的论文中，Young及其同事汇总了基于深度学习的自然语言处理（NLP）系统和应用程序的一些最新趋势。本文的重点介绍是对各种NLP任务（如视觉问答（QA）和机器翻译）最新技术（SOTA）结果的回顾和比较。在这篇全面的综述中，你可以详细了解NLP深度学习的过去，现在和未来。此外，你还将学习一些在NLP中应用深度学习的最佳实践。其中主题包括：

1、分布式表示的兴起（例如，word2vec）；

2、卷积，循环和递归神经网络；

3、在强化学习中的NLP的应用；

4、无监督模型在表示学习中的最新进展；

5、将深度学习模型与增强记忆策略相结合；

什么是NLP？

自然语言处理（NLP）涉及构建计算机算法以自动分析和表示人类语言。基于NLP的系统现在已经实现了广泛的应用，例如Google强大的搜索引擎，以及最近阿里巴巴的语音助手天猫精灵。NLP还

微信关注我们

原文链接：https://yq.aliyun.com/articles/642605

转载内容版权归作者及来源网站所有！

低调大师中文资讯倾力打造互联网数据资讯、行业资源、电子商务、移动互联网、网络营销平台。持续更新报道IT业界、互联网、市场资讯、驱动更新,是最及时权威的产业资讯及硬件资讯报道平台。

为什么我们更宠爱“随机”梯度下降？（SGD）

导读特别声明：本文仅有的一点贡献就是用自己的理解翻译了 Leon Bottou 等人的论文 <Optimization Methods for Large-Scale Machine Learning>，初窥门径，才疏学浅，疏漏之处，望不吝指教。引子大家都知道，训练深度网络一般用的是 SGD （Stochastic Gradient Descent | 随机梯度下降）而不是 GD (Gradient Descent | 梯度下降)，但是有没有考虑过 SGD 为什么比 GD 更受大家宠爱，SGD 是如何在用较低的 Computational Complexity （一般可以大概理解成，达成目标需要计算 Gradient 的次数）的同时还能保证比较好的训练效果。本文主要给出几个特殊的例子，给大家一个从直觉性，实验上和理论上认知，为什么有时候，相对于GD 我们更宠爱 SGD? 我们主要从以下三个方面，一起看一看 SGD 相对于 GD 的优势。 Prat I: 直觉上 ( Intuitive Motivation) Prat II: 实验上 ( Practical Moti...

2018-09-20

630

分散在世界各地的六万阿里员工是如何快速协同工作的？在2018年杭州云栖大会现场，一块近4米宽的企业信息化大屏上，展示了全球阿里员工1天的云上办公与连接情况。目前阿里巴巴的办公网络与音视频会议已经覆盖全球33个国家和地区，其中，单是音视频会议在过去3个月的日均召开场次超过2000余场。全球化高效协同背后，是阿里巴巴内部创新的产品与技术支持。就在今年云栖现场，阿里巴巴内部的办公、生活黑科技也首次对外界曝光。笑容签到、AI审核、未来餐厅、一分钟搭建机器人……原来除了内部福利，阿里是这样“宠”员工的。下面就让小编带领大家走进阿里巴巴信息平台展台，亲身体验“阿里人的一天”。笑容签到：凭“笑脸”进入展台在信息平台展台入口处设有人脸签到机，对着笑一笑就能入场。并且闸机还能根据观众的表情特征给出笑容“评价”。所有入场人的笑脸最终都会

2018-09-20

693

资源下载

更多资源

Mario

马里奥是站在游戏界顶峰的超人气多面角色。马里奥靠吃蘑菇成长，特征是大鼻子、头戴帽子、身穿背带裤，还留着胡子。与他的双胞胎兄弟路易基一起，长年担任任天堂的招牌角色。

Oracle

Oracle Database，又名Oracle RDBMS，或简称Oracle。是甲骨文公司的一款关系数据库管理系统。它是在数据库领域一直处于领先地位的产品。可以说Oracle数据库系统是目前世界上流行的关系数据库管理系统，系统可移植性好、使用方便、功能强，适用于各类大、中、小、微机环境。它是一种高效率、可靠性好的、适应高吞吐量的数据库方案。

Apache Tomcat

Tomcat是Apache 软件基金会（Apache Software Foundation）的Jakarta 项目中的一个核心项目，由Apache、Sun 和其他一些公司及个人共同开发而成。因为Tomcat 技术先进、性能稳定，而且免费，因而深受Java 爱好者的喜爱并得到了部分软件开发商的认可，成为目前比较流行的Web 应用服务器。

Sublime Text

Sublime Text具有漂亮的用户界面和强大的功能，例如代码缩略图，Python的插件，代码段等。还可自定义键绑定，菜单和工具栏。Sublime Text 的主要功能包括：拼写检查，书签，完整的 Python API ， Goto 功能，即时项目切换，多选择，多窗口等等。Sublime Text 是一个跨平台的编辑器，同时支持Windows、Linux、Mac OS X等操作系统。