基于梯度的对抗排序攻击方法

作     者：吴晨 张儒清 郭嘉丰 范意兴 WU Chen;ZHANG Ruqing;GUO Jiafeng;FAN Yixing

作者机构：中国科学院计算技术研究所网络数据科学与技术重点实验室北京100190 中国科学院大学计算机与控制学院北京100190 

基　　金：国家自然科学基金项目(No.62006218,61902381,61773362,61872338) 北京智源人工智能研究院项目(No.BAAI2019ZD 0306) 中国科学院青年创新促进会项目(No.20144310,2016102,2021100) 联想-中科院联合实验室青年科学家项目(No.cstc2017jcjyBX0059)资助 

出 版 物：《模式识别与人工智能》 (Pattern Recognition and Artificial Intelligence)

年 卷 期：2022年第35卷第3期

页      码：254-261页

摘      要：互联网检索中普遍存在排名竞争这种对抗攻击行为,会产生许多不良影响,因此对攻击方法的研究有助于设计更鲁棒的排序模型.已有的攻击方法容易被人识别且无法有效攻击神经排序模型.因此,文中提出基于梯度的对抗排序攻击方法.方法分为3个模块:基于梯度大小的词重要度排序、基于梯度的排序攻击和基于词嵌入的同义词替换.针对给定的目标排序模型,首先基于构建的排序攻击目标进行梯度回传,利用梯度信息在指定文档上找到最重要的词.然后,基于投影梯度攻击原理,在词向量空间上对这些最重要的词进行扰动.最后,利用同义词替换技术将这些最重要的词替换为和原词语义相近且和扰动后的词向量最近邻的词,完成文档扰动.在MQ2007、MS MARCO数据集上的实验验证文中方法的有效性.

主 题 词：排名竞争 对抗攻击 梯度攻击 神经排序模型 网页检索 

学科分类：1205[管理学-图书情报与档案管理类] 081203[081203] 08[工学] 0835[0835] 0812[工学-测绘类] 

核心收录：

D　O　I：10.16451/j.cnki.issn1003-6059.202203005

馆 藏 号：203109760...