[发明专利]一种结合API模糊处理技术的恶意软件对抗样本生成方法

说明书

本发明涉及一种结合API模糊处理技术的恶意软件对抗样本生成方法，属于计算机与信息科学技术领域。本发明首先向原始的API调用序列中插入无关的API向量，初步实现恶意软件特征功能的混淆；然后对样本实施函数调用重定向的混淆操作，隐藏API的函数功能；最后，把修改后的样本馈送到恶意软件分类器，检查它是否实现了错误分类，利用遗传算法解决优化问题。本发明具有更高的实用性，更符合现实需求；相比于面向黑盒的对抗样本生成方法，本发明不仅没有破坏恶意软件原始的功能，而且在欺骗恶意软件分类器时具有高成功率，极大改善了无法平衡对抗样本欺骗成功率低和恶意软件功能被破坏的问题。

技术领域

本发明涉及一种结合API模糊处理技术的恶意软件对抗样本生成方法，属于计算机与信息科学技术领域。

背景技术

由于网络空间中存在大量的恶意软件攻击，机器学习技术已经广泛用于恶意软件的检测与分类，为了评估恶意软件检测模型的抗攻击性，研究面向恶意软件检测模型的攻击方法尤为重要。同时，深度模型本身已被证明容易收到对抗样本的攻击，到目前为止，尽管对抗学习一直是一个活跃的研究领域，但是大部分对抗样本的研究多应用在图像识别领域，研究基于深度学习的恶意软件检测系统的对抗攻击方法占少数，并且大部分对抗样本生成方法都无法保证样本的可执行性。因此，本发明将提供一种结合API模糊处理技术的恶意软件对抗样本生成方法，来提高针对恶意软件检测系统的欺骗率。

恶意软件对抗样本生成方法需要解决的基本问题是：生成无关的API插入原始的API序列，通过一种API混淆技术隐藏导入的API函数，将恶意软件分类器以高成功率欺骗为错误分类。综合现有的对抗样本生成方法，通常使用方法可归为两类：

1.面向白盒的对抗样本攻击方法

面向白盒的对抗样本攻击方法可以根据已知参数信息的模型生成对抗样本，通过在数据集中通过故意添加微小的干扰生成输入的对抗样本，从而导致目标模型以高置信度给出一个错误的输出。但是由于目标模型的参数信息很难获取，所以这种方法不具备实用性。

2.面向黑盒的对抗样本攻击方法

面向黑盒的对抗样本攻击方法可以根据已知参数信息的模型生成对抗样本，通过获取模型最终的分类输出结果，或基于对抗生成网络(GAN)生成针对恶意软件检测模型的对抗样本，最终成功绕过检测器的检测。但是这些方法通常破坏了恶意软件的功能，导致无法创建出可以在实践中有效工作的对抗样本。

综上所述，现有的恶意软件对抗样本生成方法中，面向黑盒的攻击方法更具有可行性，但很难保证在加入扰动之后不破坏恶意软件的功能，保证对抗样本可以用于现实的对抗攻击中。所以本发明提出一种结合API模糊处理技术的恶意软件对抗样本生成方法。

发明内容

本发明的目的是为了生成精心制作的对抗样本，欺骗可移植可执行(PE)恶意软件分类器从而导致高成功率的误分类，所以提出了一种结合API模糊处理技术的恶意软件对抗样本生成方法。

本发明的设计原理为：本发明首先向原始的API恶意序列中插入无关的API向量，在保证恶意软件的功能性不被破坏的前提下生成修改后的恶意序列；然后根据集合中对应API函数是否混淆，生成混淆向量M并进行模糊处理；最后，把修改后的假设样本馈送到恶意软件分类器，检查它是否实现了错误分类。

本发明的技术方案是通过如下步骤实现的：

步骤1，向原始的API调用序列中插入无关的API向量，根据修改后的API调用序列生成恶意软件特征向量X_P，初步实现恶意软件特征功能的混淆。

步骤1.1，确定一个有序集合V，其包含PE程序可以调用的所有API函数。

步骤1.2，在API的随机位置i插入一个新的已编码API向量，位置i…n中的API被退回一个位置。