基于图卷积网络的图深度学习-低调大师

基于图卷积网络的图深度学习

2017-07-26 615

更多深度文章，请关注云计算频道：

https://yq.aliyun.com/cloud

        基于图卷积网络的图深度学习

先简单回顾一下，深度学习到底干成功了哪些事情！

深度学习近些年在语音识别，图片识别，自然语音处理等领域可谓是屡建奇功。ImageNet：是一个计算机视觉系统识别项目，是目前世界上图像识别最大的数据库，并且被业界熟知。
我们先回顾一下，没有大数据支撑的欧式深度学习技术。对于一个字母“Z”的识别，我们通常是建立一个2D网格（点阵），如果将其中的点连接起来，定义这样的连接方式所形成的就是“Z”。然后是用其他字母来测试，这个模型的正确性。

传统深度学习的方法，实际上就是一种手工设计特征的过程。而且，在准确率上没有保障。而真正的深度学习，端到端的学习，其中的过程到底发生了什么，设计者什么也不知道，自然也不会人为的去干涉。

如果数据不能网格化，那么CNNs就失去了作用。所以，CNNs在一定程度上还是有很多缺陷的。例如图结构数据，如何处理？在现实世界中这样的例子很多很多：社交网络（著名的六度理论），万维网，知识图，等等这些都是图结构，不是网格结构，对于这些我们该怎么解决。

下面是一个简单的解决图结构数据的方法。

这个方法到底会出现什么样的问题呢？为了解决问题，我们需要什么呢？

先简单介绍一下第一阶消息传递的GCNs，这个理论在2009年就已经被提出来了。

接下来，我们了解一下GCN模型架构！

GCN模型架构到底能干什么呢？先举个小栗子。

GCN模型与大名鼎鼎魏勒雷曼算法的关系到底是什么样的呢？

图的半监督分类也是一种不错的方法。

半监督分类嵌入方法——两步管道，这个方法也有一些问题，但我想这是可以解决的。

举个小栗子，视频链接是一个关于半监督学习的小例子，有兴趣的朋友可以去看一下。

视频：
http://tkipf.github.io/graph-convolutional-networks/
此外，还有关于引文网络的分类，也可以通过这个方法实现。

下面2-layerGCN模型的实验结果

还要一些这个方法最近应用到其他程序的案例。

用这个方法关于图auto-encoders链接的预测。下面是auto-encoders的介绍

Autoencoders

                **进一步的阅读**

Blog post Graph Convolutional Networks:
http://tkipf.github.io/graph-convolutional-networks
Code on Github:
http://github.com/tkipf/gcn
Kipf & Welling, Semi-Supervised Classification with Graph Convolutional Networks, ICLR 2017:
https://arxiv.org/abs/1609.02907
Kipf & Welling, Variational Graph Auto-Encoders, NIPS BDL Workshop, 2016: https://arxiv.org/abs/1611.07308

作者：Thomas Kipf
本文由北邮@爱可可-爱生活推荐，阿里云云栖社区翻译。

文章原标题《Deep Learning on Graphs with Graph Convolutional Networks》，作者：Thomas Kipf，译者：袁虎，审阅：我是主题曲哥哥，附件为原文的pdf。
文章为简译，更为详细的内容，请查看原文

微信关注我们

原文链接：https://yq.aliyun.com/articles/146103

转载内容版权归作者及来源网站所有！

低调大师中文资讯倾力打造互联网数据资讯、行业资源、电子商务、移动互联网、网络营销平台。持续更新报道IT业界、互联网、市场资讯、驱动更新,是最及时权威的产业资讯及硬件资讯报道平台。

想改进你的卷积神经网络？看看这14种设计模式！

更多深度文章，请关注云计算频道： https://yq.aliyun.com/cloud 自2011年以来，深度卷积神经网络（CNN）在图像分类的工作中的表现就明显优于人类，它们已经成为在计算机视觉领域的一种标准，如图像分割，对象检测，场景标记，跟踪，文本检测等。但，想要熟练掌握训练神经网络的能力并不是那么容易。与先前的机器学习思维一样，细节决定成败。但是，训练神经网络有更多的细节需要处理。你的数据和硬件有什么限制？你应该是从何种网络开始？你应该建立多少与卷积层相对的密集层？你的激励函数怎样去设置？即使你使用了最流行的激活函数，你也必须要用常规激活函数。学习速率是调整神经网络训练最重要的超参数，也是最难优化的参数之一。太小，你可能永远不会得到一个解决方案；太大，你可能刚好错过最优解。如果用自适应的学习速率的方法，这就意味着你要花很多钱在硬件资源上，以此来满足对计算的需求。设计选择和超参数的设置极大地影响了CNN的训练和性能，但对于深度学习领域新进入者来说，设计架构直觉的培养可能就需要资源的稀缺性和分散性。《神经网络：权衡技巧》是一本主要着重于实际调优的书，出版于2003年，并在...

2017-07-27

570

在我刚开始了解5G核心网架构的时候，我注意到软件定义网络（SDN）和网络功能虚拟化（NFV）作为两种新兴技术被多次提及。然而，对于SDN和NFV技术在5G中扮演着的重要角色，很多文献在这方面仅仅一笔带过，很多技术博客也是从专业的运营商角度来强调SDN和NFV的引入为运营商带来的时间和成本上的节省，这其实让我很困惑，因为我依旧不明白为什么SDN和NFV技术可以具有这么大的潜力，无法从根本上来理解这两种技术对于5G至关重要的意义。作为初级入门者，如果不能从本质上理解这一点的话，我认为对于整个5G核心网技术系统的完整性认识是不会有帮助的。因此在这里把我的一点理解归纳整理，希望对初学者有所帮助，如果有理解不到位的地方，欢迎各位批评指正。接下来我将从我理解的角度来讨论为什么要为5G引进SND技术和NFV技术。这首先要从当前的核心网EPC的一大缺陷讲起，这个缺陷就是耦合！EPC在构建之初并没有从服务和基础架构的出发点去考虑问题，而是针对单一服务（使用场景）设计的集中式架构，这就导致EPC架构下物理组件之间的功能划分非常耦合，功能的耦合也带来部署的难度，同时功能的实现严重依赖于物理硬件，很多功能...

2017-07-27

607

资源下载

更多资源

腾讯云软件源

为解决软件依赖安装时官方源访问速度慢的问题，腾讯云为一些软件搭建了缓存服务。您可以通过使用腾讯云软件源站来提升依赖包的安装速度。为了方便用户自由搭建服务架构，目前腾讯云软件源站支持公网访问和内网访问。

Nacos

Nacos /nɑ:kəʊs/ 是 Dynamic Naming and Configuration Service 的首字母简称，一个易于构建 AI Agent 应用的动态服务发现、配置管理和AI智能体管理平台。Nacos 致力于帮助您发现、配置和管理微服务及AI智能体应用。Nacos 提供了一组简单易用的特性集，帮助您快速实现动态服务发现、服务配置、服务元数据、流量管理。Nacos 帮助您更敏捷和容易地构建、交付和管理微服务平台。

Spring

Spring框架（Spring Framework）是由Rod Johnson于2002年提出的开源Java企业级应用框架，旨在通过使用JavaBean替代传统EJB实现方式降低企业级编程开发的复杂性。该框架基于简单性、可测试性和松耦合性设计理念，提供核心容器、应用上下文、数据访问集成等模块，支持整合Hibernate、Struts等第三方框架，其适用范围不仅限于服务器端开发，绝大多数Java应用均可从中受益。

Rocky Linux

Rocky Linux（中文名：洛基）是由Gregory Kurtzer于2020年12月发起的企业级Linux发行版，作为CentOS稳定版停止维护后与RHEL（Red Hat Enterprise Linux）完全兼容的开源替代方案，由社区拥有并管理，支持x86_64、aarch64等架构。其通过重新编译RHEL源代码提供长期稳定性，采用模块化包装和SELinux安全架构，默认包含GNOME桌面环境及XFS文件系统，支持十年生命周期更新。