基于探索-利用模型优化AFL变异的方法

作     者：徐鹏 刘嘉勇 林波 XU Peng;LIU Jiayong;LIN Bo

作者机构：四川大学电子信息学院四川成都610065 四川大学网络空间安全学院四川成都610065 

基　　金：国家重点研发计划[2017YFB0802904] 

出 版 物：《信息网络安全》 (Netinfo Security)

年 卷 期：2019年第6期

页      码：61-67页

摘      要：模糊测试是通过不断生成不同的输入来测试程序从而发现并识别安全漏洞,已经广泛应用于漏洞挖掘中。目前灰盒模糊测试是最流行的模糊测试策略,它将轻量级代码插桩与数据反馈驱动相结合,以生成新的程序输入。AFL(American Fuzzy Lop)是一种卓越的灰盒模糊测试工具,其以高效的forkserver执行、可靠的遗传算法和多种的变异策略著称,但其变异策略主要采样随机变异,存在较大的盲目性。文章提出了一种运用强化学习的方法来优化变异的策略,以多摇臂赌博机问题为模型,记录不同变异方式产生的输入在目标程序中的执行效果,利用探索-利用算法自适应地学习变异操作结果的概率分布情况,智能地进行变异操作策略调整,提升AFL的模糊测试性能。文章选择汤普森采样为优化算法设计实现了AFL-EE模糊测试工具,并对5类常用的文件类程序进行了验证测试,实验表明该方法能自动调整变异操作策略,有效地产生覆盖率高的测试输入,方法可行、额外资源消耗较小,总体上优于AFL工具。

主 题 词：AFL 多摇臂赌博机 探索-利用 汤普森采样 

学科分类：08[工学] 0839[0839] 081201[081201] 0812[工学-测绘类] 

D　O　I：10.3969/j.issn.1671-1122.2019.06.008

馆 藏 号：203691110...