新闻  |   论坛  |   博客  |   在线研讨会
收藏|图神经网络综述(5)
数据派THU | 2021-04-07 20:22:49    阅读:301   发布文章

05 图神经网络的应用方向

图神经网络在不同的任务和所处理的时间、空间、或频谱域中,都具有广泛应用。每类图神经网络都有广泛的应用,包括节点分类,节点表示学习,图分类,图生成和时空预测,图神经网络也应用于节点聚类,链接预测等。我们将图神经网络的应用主要分为文本处理、图像处理、推荐系统、知识图谱、生物分子图、动态问题处理六个方向,具体的内容如表5所示。

5.1 图神经网络的文本应用

对于文本向量化表示而言,图神经网络可以对句子和词级别的文本进行处理,文献[25]通过密集图传播模块来实现距离较远的文本节点的关联关系表示。文献[61-62]则都是通过图嵌入的方式,来实现节点的向量化表示,用于文本词向量和句向量的推理。

文本分类领域,文献[80]利用基于双向图长短记忆网络,实现了每个文本词向量的双向状态表示,从而达到了更好文本分类效果。文献[81]通过递归正则化的方式,更有效的获取非连续的和长距离语义。

图神经网络也可以应用于文本的序列标注。对于文本图结构的词节点而言,每个节点的序列生成可以通过图生成网络的方式来实现,文献[79]提出了节点对象强化的图生成网络OR-GAN的方式来进行序列生成。文献[82]利用图长短记忆网络可以利用句法信息中文本节点间的关联关系进行建模,得到每个词节点的潜在特征用于序列标注。

关系推理是指从复杂的语义信息中提取出文字节点之间关联关系的相关研究。文献[19}提出了通过关系图卷积R-GCN的方法来完成文实体间之间关系的抽取和属性分类。文献[46]利用图长短记忆网络提出了文本序列中跨多个句子N元关系的方法。关系推理则是通过上下文中文本实体之间的关系进行任务推理。

5.2 图神经网络的图像应用

在图像分类的任务中,零样本和少样本学习的任务往往需要借助知识图谱的先验知识来提升识别效果。图神经网络有效提升知识图谱的推理效率。文献[17]中通过深度图传播的方法将异构图结构用于知识推理,利用中间节点的特征信息来优化知识的稀疏度。文献[83]则是借助图神经网络将少样本学习的任务转化为可以端到端训练的监督学习任务。

5.3 图神经网络的系统应用

对于推荐系统而言,用户与项目的关系可以构成二部图,用户与用户之间可以构成社交网络,项目与项目则可以构建知识图谱和异构图,通过图神经网络可以为用户推理出商品的重要性。文献[74]利用基于上下文的图自注意力网络实现了高性能的会话推荐。

如何构建和提升知识图谱的应用效果一直是图领域备受关注的研究方向。文献[23]利用知识图谱实现了基于知识迁移的图小样本学习方法。文献[78-79]都是通过知识图谱的推理来实现和完成图零样本学习的任务。文献[83]则是介绍了如何挖掘知识图谱实现大规模企业级应用实践。

作为生物学的研究领域,分子的构成是天然的图结构。文献[20]利用端到端的图卷积网络实现了圆形指纹的分子特征提取方法。文献[39]则是进一步将图卷积方法应用到了无向图先分子结构领域。文献[69]提出了基于图生成网络方法的分子图生成方法,可以有效模拟化学分子的合成。

5.4 图神经网络的动作检测应用

通过视频序列来实现任务预测是时序图领域的重要应用场景之一。文献[77}实现了基于共扼任务图结构的策略生成方法,实现了基于给定的演示视频推理完成未知的任务。文献[85]提出了视觉空间注意力机制的图卷积方法来完成视觉理解任务中人与对象交互定位HOI的任务。文献[21]通过时空图神经网络实现了基于骨节运动的动作检测。

5.jpg

06 未来发展与研究

随着图神经网络的研究和应用不断深入,其发展方向主要包括网络结构优化,理论可解释性强化·适用的数据结构丰富化的趋势,具体的未来发展方向可以归纳如下:

1)传统深度学习相比,图神经网络的研究和应用领域有很大的拓展空间,对于诸如知识图谱、推荐系统等大规模的系统性应用中,具备了迁移性·可强化性等特点,就可以对动态任务具有更加泛化的处理能力,实现将图神经网络与现阶段的深度学习更好的关联,将图结构数据加以更加完善的应用。

2)深度神经网络的结构本质上是对数据不断提取高维的抽象特征,图结构的关联性特征与传统贝叶斯因果关系网络相结合,有望实现对深度学习神经网络结构可解释性的证明。

3)现阶段的图神经网络结构受限于关系型结构在高维空间特征可解释性,提升图网络深度的研究很少,而深度学习的巨大成功得益于其深层的网络结构能提取更高维度的特征信息。作为对特征信息在结构上的抽象概括,图网络也需要在节点结构关系创新的同时探索加深网络结构的方式,以实现对于高维特征信息提取的能力,提高网络性能。

4)增加图神经网络的感受域是有效提升图神经网络推理性能的研究方向。神经元的感受野可以让网络输出的特征值更好地归纳局部和全局的特征,从而实现更快的学习收敛速度和更好的网络预测效果。如何将这一特性引入图神经网络并获得优化的效果,也是需要探索的前沿领域之一。

5)在网络节点引入更多种类的数据类型,突破节点连接的先验信息来决定图神经网络的最终学习效果。更广泛的利用统计定性、离散或概率型数据,如定性、离散或概率型的数据,用图的形式引入到图网络中,可以增强图网络模型对真实数据分布的刻画能力。

6)提升图神经网络动态性和异质性,对于更多的关于复杂图结构的异质图和结合时序性动态图具有更加丰富的应用场景。

07 结束语

本文以综述和探索的角度梳理了图神经网络的发展历程,从图数据的结构对图结构进行了分类介绍,同时从信息聚合方法的不同,深入剖析了六种等不同图神经网络的差异和优劣。分析讨论了图神经网络与深度学习领域的研究方向相结合的五类研究方向以及优缺点,并对不同图神经网络技术的应用场景进行了分析介绍。根据现阶段图神经网络的发展,从网络结构的深度和复杂度、对异质图的高校分析和处理以及利用节点和边的信息传递实现神经网络的可解释等不同的研究和讨论,未来提升图神经网络的算法性能,增强可解释性以及拓宽应用领域将是非常重要的研究领域和方向。

08 总结

本篇文章概述了图神经网络的发展过程,对不同结构的图神经网络进行了介绍,图卷积、图注意力机制等,图卷积网络又有空间和频域两种。并介绍了几种图神经网络算法的优劣和应用场景。在我们的工作里,可以将图神经网络和异常检测联系在一起,制作一些图结构的网络流量数据,这些流量数据以主机为节点,如果有通信则视为有连接,但是节点包含哪些特征需要进一步研究。

4.jpg

3.jpg

2.jpg

1.jpg

版权申明:内容来源网络,版权归原创者所有。除非无法确认,都会标明作者及出处,如有侵权,烦请告知,我们会立即删除并致歉。谢谢!

作者:王健宗等

https://wwwihcm/people/euu-lin-jun-7

原文链接:

https://kns.cnki.net/kcms/detail/31.

1289.tp.20201123.1641.002.html

*博客内容为网友个人发布,仅代表博主个人观点,如有侵权请联系工作人员删除。

参与讨论
登录后参与讨论
推荐文章
最近访客