基于AE-WGAN的定向对抗样本生成及利用

作     者：张洁 张志昊 ZHANG Jie;ZHANG Zhihao

作者机构：南京邮电大学计算机学院江苏南京210023 

基　　金：南京邮电大学校级科研基金(NY219122) 国家重点研发计划(2018YFB1500902)资助项目 

出 版 物：《南京邮电大学学报（自然科学版）》 (Journal of Nanjing University of Posts and Telecommunications：Natural Science Edition)

年 卷 期：2020年第40卷第1期

页      码：63-69页

摘      要：由于对抗样本存在通过不易察觉的微小扰动破坏模型准确度的特性,在很大程度上影响深度学习在高安全性需求领域中的应用和部署,例如无人驾驶系统、无人机和入侵检测等。为了生成一种含有轻微语义扰动的对抗样本,文中利用对抗生成网络,设计并实现了一种高质量映射转换的AE-WGAN(Auto Encoder WGAN),然后利用隐层编码迁移算法(Latent Encodings Targeted Transfer,LE-TT)生成定向对抗样本,实现无需获取目标模型内部信息即可定向改变模型预测结果的黑盒攻击。基于经典图像数据集MNIST、CIFAR-10的对抗样本生成结果表明:LE-TT算法不仅展现出良好的黑盒攻击效果,还具有良好的可转移性;此外,作为一种半监督数据扩增方式,该算法生成的对抗样本被赋予正确的标签后,加入模型再训练后提升了对已知分布外数据的泛化能力。

主 题 词：生成对抗网络 对抗样本 黑盒攻击 半监督学习 

学科分类：08[工学] 0835[0835] 081202[081202] 0812[工学-测绘类] 

D　O　I：10.14132/j.cnki.1673-5439.2020.01.010

馆 藏 号：203900164...