近期,实验室人工智能研究团队在人工智能领域图神经网络的理论与方法研究中取得了突破性进展,相关成果以“Multi-View Graph Convolutional Networks with Attention Mechanism”为题于2022年3月18日在人工智能领域国际顶级期刊《ArtificialIntelligence》(简称AI,为CCF A类期刊)在线发表。该论文通讯作者为梁吉业教授,第一作者为2019级博士生姚凯旋,合作者为梁建青副教授、李明教授、曹飞龙教授。
新一代信息技术是推动国家创新战略发展的重要支撑,而智能化是信息技术发展的永恒追求,实现这一追求的主要途径是发展人工智能技术。其中,深度学习是新一代人工智能技术的卓越代表。然而,以卷积神经网络(CNN)为代表的传统深度学习难以应用到非规则形态(非欧结构)的网络(图)数据上,极大地限制了深度学习在网络大数据分析领域的应用。
最近,结合了图计算和深度学习的图神经网络(GNN)已成为学术界和工业界研究热度颇高的新方向之一。GNN作为深度学习领域目前的研究热点,其理论与方法的研究现正处于爆发期。与传统的深度卷积神经网络(CNN)不同,图卷积神经网络(GCN)的计算核心是利用节点间的邻接关系进行邻域特征聚合,现有的对于图卷积网络的研究也主要关注如何利用拓扑图结构设计更合理的邻域聚合策略。但是,在开放环境下,当数据给定的图结构与具体任务存在偏差或者其所蕴含的拓扑信息不全面时,现有的图卷积网络性能急剧下降,鲁棒性问题凸显,已成为限制图神经网络发展的关键问题之一。
针对图神经网络面临的鲁棒性挑战,该研究构建了一种基于注意力机制的多视图图卷积框架(见图1),提出了一种面向图数据的全局平均池化策略实现注意力机制,将多个视图的拓扑图结构自适应集成到图聚合策略中,极大地提升了图卷积网络的鲁棒性。同时,该研究还对多视图图卷积网络的表达能力和鲁棒性给出了一般性的理论分析,从理论上保证了多视图图卷积网络相比于传统图卷积网络的优越性。
图1基于注意力机制的多视图图卷积框架
总的来说,该研究提出了一种通用的多视图图卷积框架,有效地解决了图神经网络的鲁棒性问题。公开数据集上的对比实验表明了该模型的预测性能(见图2),同时该研究还通过对抗攻击实验验证了模型的鲁棒性(见图3)。在理论上,该研究从逼近论的角度为图卷积神经网络的理论分析提供了新思路,对图神经网络的理论研究具有深刻的意义。
图2 在真实公开数据集上的半监督节点分类结果
图3 鲁棒性分析对比实验
研究工作得到计算智能与中文信息处理教育部重点实验室、科技创新2030-“新一代人工智能”重大项目、国家自然科学基金重点项目、山西省1331工程重点学科建设计划的支持。
据悉,AI期刊于1970年建刊(期刊封面见图4),是国际上公认的人工智能领域顶级期刊,同时也被中国计算机学会(CCF)推荐为人工智能领域的A类期刊,主要刊登人工智能领域的高质量前沿研究成果,每年只发表80篇左右的论文。
研究成果原文阅读链接:https://doi.org/10.1016/j.artint.2022.103708
图4 AI期刊封面