基于图卷积网络的图深度学习-低调大师

基于图卷积网络的图深度学习

2017-07-26 633

更多深度文章，请关注云计算频道：

https://yq.aliyun.com/cloud

        基于图卷积网络的图深度学习

先简单回顾一下，深度学习到底干成功了哪些事情！

深度学习近些年在语音识别，图片识别，自然语音处理等领域可谓是屡建奇功。ImageNet：是一个计算机视觉系统识别项目，是目前世界上图像识别最大的数据库，并且被业界熟知。
我们先回顾一下，没有大数据支撑的欧式深度学习技术。对于一个字母“Z”的识别，我们通常是建立一个2D网格（点阵），如果将其中的点连接起来，定义这样的连接方式所形成的就是“Z”。然后是用其他字母来测试，这个模型的正确性。

传统深度学习的方法，实际上就是一种手工设计特征的过程。而且，在准确率上没有保障。而真正的深度学习，端到端的学习，其中的过程到底发生了什么，设计者什么也不知道，自然也不会人为的去干涉。

如果数据不能网格化，那么CNNs就失去了作用。所以，CNNs在一定程度上还是有很多缺陷的。例如图结构数据，如何处理？在现实世界中这样的例子很多很多：社交网络（著名的六度理论），万维网，知识图，等等这些都是图结构，不是网格结构，对于这些我们该怎么解决。

下面是一个简单的解决图结构数据的方法。

这个方法到底会出现什么样的问题呢？为了解决问题，我们需要什么呢？

先简单介绍一下第一阶消息传递的GCNs，这个理论在2009年就已经被提出来了。

接下来，我们了解一下GCN模型架构！

GCN模型架构到底能干什么呢？先举个小栗子。

GCN模型与大名鼎鼎魏勒雷曼算法的关系到底是什么样的呢？

图的半监督分类也是一种不错的方法。

半监督分类嵌入方法——两步管道，这个方法也有一些问题，但我想这是可以解决的。

举个小栗子，视频链接是一个关于半监督学习的小例子，有兴趣的朋友可以去看一下。

视频：
http://tkipf.github.io/graph-convolutional-networks/
此外，还有关于引文网络的分类，也可以通过这个方法实现。

下面2-layerGCN模型的实验结果

还要一些这个方法最近应用到其他程序的案例。

用这个方法关于图auto-encoders链接的预测。下面是auto-encoders的介绍

Autoencoders

                **进一步的阅读**

Blog post Graph Convolutional Networks:
http://tkipf.github.io/graph-convolutional-networks
Code on Github:
http://github.com/tkipf/gcn
Kipf & Welling, Semi-Supervised Classification with Graph Convolutional Networks, ICLR 2017:
https://arxiv.org/abs/1609.02907
Kipf & Welling, Variational Graph Auto-Encoders, NIPS BDL Workshop, 2016: https://arxiv.org/abs/1611.07308

作者：Thomas Kipf
本文由北邮@爱可可-爱生活推荐，阿里云云栖社区翻译。

文章原标题《Deep Learning on Graphs with Graph Convolutional Networks》，作者：Thomas Kipf，译者：袁虎，审阅：我是主题曲哥哥，附件为原文的pdf。
文章为简译，更为详细的内容，请查看原文

微信关注我们

原文链接：https://yq.aliyun.com/articles/146103

转载内容版权归作者及来源网站所有！

低调大师中文资讯倾力打造互联网数据资讯、行业资源、电子商务、移动互联网、网络营销平台。持续更新报道IT业界、互联网、市场资讯、驱动更新,是最及时权威的产业资讯及硬件资讯报道平台。

想改进你的卷积神经网络？看看这14种设计模式！

更多深度文章，请关注云计算频道： https://yq.aliyun.com/cloud 自2011年以来，深度卷积神经网络（CNN）在图像分类的工作中的表现就明显优于人类，它们已经成为在计算机视觉领域的一种标准，如图像分割，对象检测，场景标记，跟踪，文本检测等。但，想要熟练掌握训练神经网络的能力并不是那么容易。与先前的机器学习思维一样，细节决定成败。但是，训练神经网络有更多的细节需要处理。你的数据和硬件有什么限制？你应该是从何种网络开始？你应该建立多少与卷积层相对的密集层？你的激励函数怎样去设置？即使你使用了最流行的激活函数，你也必须要用常规激活函数。学习速率是调整神经网络训练最重要的超参数，也是最难优化的参数之一。太小，你可能永远不会得到一个解决方案；太大，你可能刚好错过最优解。如果用自适应的学习速率的方法，这就意味着你要花很多钱在硬件资源上，以此来满足对计算的需求。设计选择和超参数的设置极大地影响了CNN的训练和性能，但对于深度学习领域新进入者来说，设计架构直觉的培养可能就需要资源的稀缺性和分散性。《神经网络：权衡技巧》是一本主要着重于实际调优的书，出版于2003年，并在...

2017-07-27

584

在我刚开始了解5G核心网架构的时候，我注意到软件定义网络（SDN）和网络功能虚拟化（NFV）作为两种新兴技术被多次提及。然而，对于SDN和NFV技术在5G中扮演着的重要角色，很多文献在这方面仅仅一笔带过，很多技术博客也是从专业的运营商角度来强调SDN和NFV的引入为运营商带来的时间和成本上的节省，这其实让我很困惑，因为我依旧不明白为什么SDN和NFV技术可以具有这么大的潜力，无法从根本上来理解这两种技术对于5G至关重要的意义。作为初级入门者，如果不能从本质上理解这一点的话，我认为对于整个5G核心网技术系统的完整性认识是不会有帮助的。因此在这里把我的一点理解归纳整理，希望对初学者有所帮助，如果有理解不到位的地方，欢迎各位批评指正。接下来我将从我理解的角度来讨论为什么要为5G引进SND技术和NFV技术。这首先要从当前的核心网EPC的一大缺陷讲起，这个缺陷就是耦合！EPC在构建之初并没有从服务和基础架构的出发点去考虑问题，而是针对单一服务（使用场景）设计的集中式架构，这就导致EPC架构下物理组件之间的功能划分非常耦合，功能的耦合也带来部署的难度，同时功能的实现严重依赖于物理硬件，很多功能...

2017-07-27

632

资源下载

更多资源

优质分享App

近一个月的开发和优化，本站点的第一个app全新上线。该app采用极致压缩，本体才4.36MB。系统里面做了大量数据访问、缓存优化。方便用户在手机上查看文章。后续会推出HarmonyOS的适配版本。

腾讯云软件源

为解决软件依赖安装时官方源访问速度慢的问题，腾讯云为一些软件搭建了缓存服务。您可以通过使用腾讯云软件源站来提升依赖包的安装速度。为了方便用户自由搭建服务架构，目前腾讯云软件源站支持公网访问和内网访问。

Spring

Spring框架（Spring Framework）是由Rod Johnson于2002年提出的开源Java企业级应用框架，旨在通过使用JavaBean替代传统EJB实现方式降低企业级编程开发的复杂性。该框架基于简单性、可测试性和松耦合性设计理念，提供核心容器、应用上下文、数据访问集成等模块，支持整合Hibernate、Struts等第三方框架，其适用范围不仅限于服务器端开发，绝大多数Java应用均可从中受益。

Sublime Text

Sublime Text具有漂亮的用户界面和强大的功能，例如代码缩略图，Python的插件，代码段等。还可自定义键绑定，菜单和工具栏。Sublime Text 的主要功能包括：拼写检查，书签，完整的 Python API ， Goto 功能，即时项目切换，多选择，多窗口等等。Sublime Text 是一个跨平台的编辑器，同时支持Windows、Linux、Mac OS X等操作系统。