迁移学习让AI更好地理解上下文：Salesforce新论文

2018-01-09 559

本文来自AI新媒体量子位（QbitAI）

让神经网络理解每个词的意思很容易，但上下文、词语之间的关系，依然是自然语言处理(NLP)中的难题。

Salesforce的一群NLP研究者发现，搞图像识别的同行们有个不错的办法，值得一试。

在图像识别领域，把ImageNet上预训练的CNN拿来，用在其他图像识别模型中，已经成为一种惯例。这种把训练好的模型参数迁移到新模型的方法，也就是这两年大热的迁移学习。

理解上下文，就是一个非常适合迁移学习的问题。

Learned in Translation

我们所能想到的大部分NLP任务，都有“理解上下文”的需求。

机器翻译模型需要知道英语句子中的这些词是怎样组合在一起的，才能正确地把它翻译成其他语言；自动文本摘要模型需要了解上下文，才能知道哪些词是最重要的；问答模型需要知道问题中的词如何与文档中的词关联。

既然大

微信关注我们

原文链接：https://yq.aliyun.com/articles/464957

转载内容版权归作者及来源网站所有！

低调大师中文资讯倾力打造互联网数据资讯、行业资源、电子商务、移动互联网、网络营销平台。持续更新报道IT业界、互联网、市场资讯、驱动更新,是最及时权威的产业资讯及硬件资讯报道平台。

这次，罗永浩一句人工智能也没提

本文来自AI新媒体量子位（QbitAI）罗振宇：有没有人认为罗永浩是一个外行？罗永浩：第一代硬件发布会的时候，有人说你懂个屁手机。我不懂人工智能，人家问，我就聊了。有人就说你聊什么人工智能，你还是说相声去吧。罗永浩这次一句“人工智能”也没提。上周，锤子科技新款手机发布。照例，有褒有贬。关于手机本身，量子位不想过多评论，我们更关心期间展示的一些人机交互方式。罗永浩谈论的很多“软性”卖点，招招式式全跟AI有关。这位锤子科技创始人的观点是：如果一个全知全能的“语音助手”还不能实现，那就先通过工具性产品提升用户效率。去年10月，也是锤子的一场发布会，突然让科大讯飞火了一把。这次锤子新品背后，又是哪些人工智能公司在支撑？ AI伙伴在坚果Pro发布会上，锤子科技在手机上的AI变革，一目了然。首先可以从系统层面来看，锤子的打法是通过系统功能，让锤

2018-01-10

690

本文来自AI新媒体量子位（QbitAI）自然语言处理（NLP）是指机器理解并解释人类写作与说话方式的能力。近年来，深度学习技术在自然语言处理方面的研究和应用也取得了显著的成果。技术博客Sigmoidal最近发布了一篇文章，作者是机器学习工程师Rafal。这篇文章讨论了自然语言处理方法的发展史，以及深度学习带来的影响。量子位编译如下：在深度学习时代来临前在2006年Hinton提出深度信念网络（DBN）之前，神经网络是一种极其复杂且难以训练的功能网络，所以只能作为一种数学理论来进行研究。在神经网络成为一种强大的机器学习工具之前，经典的数据挖掘算法在自然语言处理方面有着许多相当成功的应用。我们可以使用一些很简单且容易理解的模型来解决常见问题，比如垃圾邮件过滤、词性标注等。但并不是所有问题都能用这些经典模型来解决。简单的模型不能准确地捕

2018-01-10

712

资源下载

更多资源

优质分享App

近一个月的开发和优化，本站点的第一个app全新上线。该app采用极致压缩，本体才4.36MB。系统里面做了大量数据访问、缓存优化。方便用户在手机上查看文章。后续会推出HarmonyOS的适配版本。

腾讯云软件源

为解决软件依赖安装时官方源访问速度慢的问题，腾讯云为一些软件搭建了缓存服务。您可以通过使用腾讯云软件源站来提升依赖包的安装速度。为了方便用户自由搭建服务架构，目前腾讯云软件源站支持公网访问和内网访问。

Spring

Spring框架（Spring Framework）是由Rod Johnson于2002年提出的开源Java企业级应用框架，旨在通过使用JavaBean替代传统EJB实现方式降低企业级编程开发的复杂性。该框架基于简单性、可测试性和松耦合性设计理念，提供核心容器、应用上下文、数据访问集成等模块，支持整合Hibernate、Struts等第三方框架，其适用范围不仅限于服务器端开发，绝大多数Java应用均可从中受益。

Rocky Linux

Rocky Linux（中文名：洛基）是由Gregory Kurtzer于2020年12月发起的企业级Linux发行版，作为CentOS稳定版停止维护后与RHEL（Red Hat Enterprise Linux）完全兼容的开源替代方案，由社区拥有并管理，支持x86_64、aarch64等架构。其通过重新编译RHEL源代码提供长期稳定性，采用模块化包装和SELinux安全架构，默认包含GNOME桌面环境及XFS文件系统，支持十年生命周期更新。

迁移学习让AI更好地理解上下文：Salesforce新论文

Learned in Translation

这次，罗永浩一句人工智能也没提

自然语言处理中的深度学习发展史和待解难题

相关文章

发表评论

资源下载

优质分享App

腾讯云软件源

Spring

Rocky Linux

欢迎您来访！