迁移学习让AI更好地理解上下文：Salesforce新论文

2018-01-09 547

本文来自AI新媒体量子位（QbitAI）

让神经网络理解每个词的意思很容易，但上下文、词语之间的关系，依然是自然语言处理(NLP)中的难题。

Salesforce的一群NLP研究者发现，搞图像识别的同行们有个不错的办法，值得一试。

在图像识别领域，把ImageNet上预训练的CNN拿来，用在其他图像识别模型中，已经成为一种惯例。这种把训练好的模型参数迁移到新模型的方法，也就是这两年大热的迁移学习。

理解上下文，就是一个非常适合迁移学习的问题。

Learned in Translation

我们所能想到的大部分NLP任务，都有“理解上下文”的需求。

机器翻译模型需要知道英语句子中的这些词是怎样组合在一起的，才能正确地把它翻译成其他语言；自动文本摘要模型需要了解上下文，才能知道哪些词是最重要的；问答模型需要知道问题中的词如何与文档中的词关联。

既然大

微信关注我们

原文链接：https://yq.aliyun.com/articles/464957

转载内容版权归作者及来源网站所有！

低调大师中文资讯倾力打造互联网数据资讯、行业资源、电子商务、移动互联网、网络营销平台。持续更新报道IT业界、互联网、市场资讯、驱动更新,是最及时权威的产业资讯及硬件资讯报道平台。

这次，罗永浩一句人工智能也没提

本文来自AI新媒体量子位（QbitAI）罗振宇：有没有人认为罗永浩是一个外行？罗永浩：第一代硬件发布会的时候，有人说你懂个屁手机。我不懂人工智能，人家问，我就聊了。有人就说你聊什么人工智能，你还是说相声去吧。罗永浩这次一句“人工智能”也没提。上周，锤子科技新款手机发布。照例，有褒有贬。关于手机本身，量子位不想过多评论，我们更关心期间展示的一些人机交互方式。罗永浩谈论的很多“软性”卖点，招招式式全跟AI有关。这位锤子科技创始人的观点是：如果一个全知全能的“语音助手”还不能实现，那就先通过工具性产品提升用户效率。去年10月，也是锤子的一场发布会，突然让科大讯飞火了一把。这次锤子新品背后，又是哪些人工智能公司在支撑？ AI伙伴在坚果Pro发布会上，锤子科技在手机上的AI变革，一目了然。首先可以从系统层面来看，锤子的打法是通过系统功能，让锤

2018-01-10

662

本文来自AI新媒体量子位（QbitAI）自然语言处理（NLP）是指机器理解并解释人类写作与说话方式的能力。近年来，深度学习技术在自然语言处理方面的研究和应用也取得了显著的成果。技术博客Sigmoidal最近发布了一篇文章，作者是机器学习工程师Rafal。这篇文章讨论了自然语言处理方法的发展史，以及深度学习带来的影响。量子位编译如下：在深度学习时代来临前在2006年Hinton提出深度信念网络（DBN）之前，神经网络是一种极其复杂且难以训练的功能网络，所以只能作为一种数学理论来进行研究。在神经网络成为一种强大的机器学习工具之前，经典的数据挖掘算法在自然语言处理方面有着许多相当成功的应用。我们可以使用一些很简单且容易理解的模型来解决常见问题，比如垃圾邮件过滤、词性标注等。但并不是所有问题都能用这些经典模型来解决。简单的模型不能准确地捕

2018-01-10

701

资源下载

更多资源

优质分享App

近一个月的开发和优化，本站点的第一个app全新上线。该app采用极致压缩，本体才4.36MB。系统里面做了大量数据访问、缓存优化。方便用户在手机上查看文章。后续会推出HarmonyOS的适配版本。

Oracle

Oracle Database，又名Oracle RDBMS，或简称Oracle。是甲骨文公司的一款关系数据库管理系统。它是在数据库领域一直处于领先地位的产品。可以说Oracle数据库系统是目前世界上流行的关系数据库管理系统，系统可移植性好、使用方便、功能强，适用于各类大、中、小、微机环境。它是一种高效率、可靠性好的、适应高吞吐量的数据库方案。

Apache Tomcat

Tomcat是Apache 软件基金会（Apache Software Foundation）的Jakarta 项目中的一个核心项目，由Apache、Sun 和其他一些公司及个人共同开发而成。因为Tomcat 技术先进、性能稳定，而且免费，因而深受Java 爱好者的喜爱并得到了部分软件开发商的认可，成为目前比较流行的Web 应用服务器。

JDK

JDK是 Java 语言的软件开发工具包，主要用于移动设备、嵌入式设备上的java应用程序。JDK是整个java开发的核心，它包含了JAVA的运行环境（JVM+Java系统类库）和JAVA工具。

迁移学习让AI更好地理解上下文：Salesforce新论文

Learned in Translation

这次，罗永浩一句人工智能也没提

自然语言处理中的深度学习发展史和待解难题

相关文章

发表评论

资源下载

优质分享App

Oracle

Apache Tomcat

JDK

欢迎您！