Facebook AI开源图形变压器网络（GTN），用于与图形自动区分-低调大师

Facebook AI开源图形变压器网络（GTN），用于与图形自动区分

2020-10-12 629

来源 | reddit

作者 | Saksham Goyal

编辑 | 代码医生团队

图形变压器网络（GTN）是带有加权有限状态传感器（WFST）的开源框架，加权有限状态传感器（WFST）是一种功能强大且表现力强的图形。就像PyTorch一样，GTN为WFST提供了一个框架。GTN用于有效地训练基于图的机器学习模型，并在手写识别，语音识别和自然语言处理等应用程序中组合不同的信息源。

通过训练不同类型的模型，GTN库提供了更好的结果。更加结构化的图形使研究人员可以将有关任务的先验知识编码为学习算法。GTN将使我们能够将单词的发音编码为图形，并将该图形合并到学习算法中。

但是图形也曾经被使用过。那么，有什么新消息？训练时先前使用的单个图是隐式的，并且图结构必须在软件中进行硬编码。但是有了这个新的框架，研究人员可以在训练时动态地使用WFST。因此，整个系统可以更有效地从数据中学习和改进。

由于缺乏易于使用的框架，使用基于功能图的数据结构构建ML模型具有挑战性。通过将图形或数据与图形操作分开，用户现在将拥有更大的自由度来尝试结构化学习算法的更大设计空间。

具有GTN的图形结构更适合于暗示性地（但不是过于规范性）编码有用的（先前）知识。整个系统可以从数据中学习和改进。WFST的结构与数据学习相结合，可以使ML模型长期保持模块化，更准确和轻便。

GTN使构造WFST，可视化和执行操作变得容易。只需调用gtn.backward，就可以为参与计算的任何图形计算梯度。发布团队希望鼓励该领域的研究人员帮助我们探索这个新的设计空间，以便更好地学习算法。

GitHub：

https://github.com/facebookresearch/gtn

论文：

https://arxiv.org/pdf/2010.01003.pdf

资料来源：

https://ai.facebook.com/blog/a-new-open-source-framework-for-automatic-differentiation-with-graphs

推荐阅读

Facebook AI发布KILT，这是知识密集型NLP任务的新基准

点击“阅读原文”图书配套资源

本文分享自微信公众号 - 相约机器人（xiangyuejiqiren）。
如有侵权，请联系 support@oschina.cn 删除。
本文参与“OSC源创计划”，欢迎正在阅读的你也加入，一起分享。

微信关注我们

原文链接：https://my.oschina.net/u/3267804/blog/4669622

转载内容版权归作者及来源网站所有！

低调大师中文资讯倾力打造互联网数据资讯、行业资源、电子商务、移动互联网、网络营销平台。持续更新报道IT业界、互联网、市场资讯、驱动更新,是最及时权威的产业资讯及硬件资讯报道平台。

干货 | YOLOV5 训练自动驾驶数据集，并转Tensorrt，收藏！

AI视线点击关注上方“AI深度学习视线”，并“星标”公号技术硬文，第一时间送达！准备数据集环境配置配置文件修改训练推理转Tensorrt 1 准备数据集 1.1 BDD数据集 BDD100K是最大的开放式驾驶视频数据集之一，其中包含10万个视频和10个任务，目的是方便评估自动驾驶图像识别算法的的进展。每个高分辨率视频一共40秒。该数据集包括超过1000个小时的驾驶数据，总共超过1亿帧。这些视频带有GPU / IMU数据以获取轨迹信息。该数据集具有地理，环境和天气多样性，从而能让模型能够识别多种场景，具备更多的泛化能力。这些丰富的户外场景和复杂的车辆运动使感知任务更具挑战性。该数据集上的任务包括图像标记，车道检测，可驾驶区域分割，道路对象检测，语义分割，实例分割，多对象检测跟踪，多对象分割跟踪，领域自适应和模仿学习。我们可以在BDD100K数据网站上下载数据。 Bdd100k的标签是由Scalabel生成的JSON格式。- labels [ ]: - id: int32 - category: string (classification) - manualShape: ...

2020-10-10

937

使用递归神经网络（RNN）序列建模业务已有很长时间了。但是RNN很慢因为他们一次处理一个令牌无法并行化处理。此外，循环体系结构增加了完整序列的固定长度编码向量的限制。为了克服这些问题，诸如CNN-LSTM，Transformer，QRNNs之类的架构蓬勃发展。在本文中，我们将讨论论文“拟递归神经网络”（https://arxiv.org/abs/1611.01576）中提出的QRNN模型。从本质上讲，这是一种将卷积添加到递归和将递归添加到卷积的方法。 LSTM LSTM是RNN最著名的变体。红色块是线性函数或矩阵乘法，蓝色块是无参数元素级块。LSTM单元应用门控功能（输入，遗忘，输出）以获得输出和称为隐藏状态的存储元素。此隐藏状态包含整个序列的上下文信息。由于单个向量编码完整序列，因此LSTM无法记住长期依赖性。而且，每个时间步长的计算取决于前一个时间步长的隐藏状态，即LSTM一次计算一个时间步长。因此，计算不能并行进行。 CNN CNN可以捕获空间特征（主要用于图像）。红色块是卷积运算，蓝色块是无参数池化运算。CNN使用内核（或过滤器）通过滑动窗口捕获要素之间的对应关系。这克服了固...

2020-10-12

515

资源下载

更多资源

优质分享App

近一个月的开发和优化，本站点的第一个app全新上线。该app采用极致压缩，本体才4.36MB。系统里面做了大量数据访问、缓存优化。方便用户在手机上查看文章。后续会推出HarmonyOS的适配版本。

腾讯云软件源

为解决软件依赖安装时官方源访问速度慢的问题，腾讯云为一些软件搭建了缓存服务。您可以通过使用腾讯云软件源站来提升依赖包的安装速度。为了方便用户自由搭建服务架构，目前腾讯云软件源站支持公网访问和内网访问。

Rocky Linux

Rocky Linux（中文名：洛基）是由Gregory Kurtzer于2020年12月发起的企业级Linux发行版，作为CentOS稳定版停止维护后与RHEL（Red Hat Enterprise Linux）完全兼容的开源替代方案，由社区拥有并管理，支持x86_64、aarch64等架构。其通过重新编译RHEL源代码提供长期稳定性，采用模块化包装和SELinux安全架构，默认包含GNOME桌面环境及XFS文件系统，支持十年生命周期更新。

Sublime Text

Sublime Text具有漂亮的用户界面和强大的功能，例如代码缩略图，Python的插件，代码段等。还可自定义键绑定，菜单和工具栏。Sublime Text 的主要功能包括：拼写检查，书签，完整的 Python API ， Goto 功能，即时项目切换，多选择，多窗口等等。Sublime Text 是一个跨平台的编辑器，同时支持Windows、Linux、Mac OS X等操作系统。