图神经网络对抗攻击与鲁棒性评测前沿进展

作     者：吴涛 曹新汶 先兴平 袁霖 张殊 崔灿一星 田侃 WU Tao;CAO Xinwen;XIAN Xingping;YUAN Lin;ZHANG Shu;CUI Canyixing;TIAN Kan

作者机构：重庆邮电大学网络空间安全与信息法学院重庆400065 重庆市网络与信息安全技术工程实验室重庆400065 重庆邮电大学-重庆中国三峡博物馆智慧文博联合实验室重庆400065 

基　　金：国家自然科学基金(62376047,62106030) 重庆市自然科学基金创新发展联合基金重点项目(CSTB2023NSCQLZX0003,CSTB2023NSCQ-LMX0023) 重庆市教委科学技术研究计划重点项目(KJZD-K202300603) 重庆市技术创新与应用发展面上项目(CSTB2022TIAD-GPX0014) 

出 版 物：《计算机科学与探索》 (Journal of Frontiers of Computer Science and Technology)

年 卷 期：2024年第18卷第8期

页      码：1935-1959页

摘      要：近年来,图神经网络(GNNs)逐渐成为人工智能的重要研究方向。然而,GNNs的对抗脆弱性使其实际应用面临严峻挑战。为了全面认识GNNs对抗攻击与鲁棒性评测的研究工作,对相关前沿进展进行梳理和分析讨论。介绍GNNs对抗攻击的研究背景,给出GNNs对抗攻击的形式化定义,阐述GNNs对抗攻击及鲁棒性评测的研究框架和基本概念。对GNNs对抗攻击领域所提具体方法进行了总结和梳理,并对其中的前沿方法从对抗攻击类型和攻击目标范围的角度进行详细分类阐述,分析了它们的工作机制、原理和优缺点。考虑到基于对抗攻击的模型鲁棒性评测依赖于对抗攻击方法的选择和对抗扰动程度,只能实现间接、局部的评价,难以全面反映模型鲁棒性的本质特征,从而着重对模型鲁棒性的直接评测指标进行了梳理和分析。在此基础上,为了支撑GNNs对抗攻击方法和鲁棒性模型的设计与评价,通过实验从易实现程度、准确性、执行时间等方面对代表性的GNNs对抗攻击方法进行了对比分析。对存在的挑战和未来研究方向进行展望。总体而言,目前GNNs对抗鲁棒性研究以反复实验为主,缺乏具有指导性的理论框架。如何保障基于GNNs的深度智能系统的可信性,仍需进一步系统性的基础理论研究。

主 题 词：图神经网络 对抗脆弱性 对抗攻击 鲁棒性评测 

学科分类：12[管理学] 1201[管理学-管理科学与工程类] 08[工学] 081201[081201] 0812[工学-测绘类] 

核心收录：

D　O　I：10.3778/j.issn.1673-9418.2311117

馆 藏 号：203130844...