[发明专利]一种深度学习系统的漏洞检测方法和装置

权利要求书

1.一种用于恶意软件检测的深度学习系统的漏洞检测方法，其特征在于，包括：

以最大化神经元覆盖率为导向，从待测深度学习系统中选取并激活若干个神经元；所述待测深度学习系统为恶意软件检测系统，所述若干个神经元构成的路径即程序的路径；

基于所述若干个神经元的张量表达式，以及所述待测深度学习系统的预测差的张量表达式，构建优化函数，并通过最大化所述优化函数获取若干个扰动；其中，所述预测差为所述待测深度学习系统的预设标签中其余标签的概率与原始标签的概率之差；

若所述若干个扰动中任一扰动满足预设条件，则基于所述任一扰动获取检测样本，通过所述检测样本对所述待测深度学习系统的漏洞进行检测；所述检测样本是为引发软件崩溃或宕机所生成的输入；

所述优化函数如下：

式中，obj为所述优化函数，c₀为所述原始标签的概率，c_i为所述预设标签中任一所述其余标签的概率，n_j为任一所述神经元的张量表达式，m+1为所述预设标签的数量，n为所述神经元的数量，λ为超参数。

2.根据权利要求1所述的方法，其特征在于，所述以最大化神经元覆盖率为导向，从待测深度学习系统中选取并激活若干个神经元，具体包括：

基于高权重选取策略，以及高激活频率选取策略、低激活频率选取策略和激活阈值选取策略中的至少一种，从所述待测深度学习系统中选取并激活若干个神经元。

3.根据权利要求2所述的方法，其特征在于，所述基于高权重选取策略，以及高激活频率选取策略、低激活频率选取策略和激活阈值选取策略中的至少一种，从待测深度学习系统中选取并激活若干个神经元，具体包括：

当预设神经元激活数量为n时，分别基于所述高权重选取策略、所述高激活频率选取策略、所述低激活频率选取策略和所述激活阈值选取策略从所述待测深度学习系统中选取n/4个神经元并激活。

4.根据权利要求1所述的方法，其特征在于，所述通过最大化所述优化函数获取若干个扰动，具体包括：

将上一输入与所述上一输入得到的扰动相加更新当前输入；

基于所述当前输入，通过梯度上升算法最大化所述优化函数，得到所述当前输入对应的扰动。

5.根据权利要求4所述的方法，其特征在于，所述若所述若干个扰动中任一扰动满足预设条件，则基于所述任一扰动获取检测样本，通过所述检测样本对所述待测深度学习系统的漏洞进行检测，具体包括：

若所述若干个扰动中任一扰动对应的神经元覆盖率大于所述任一扰动的前一扰动对应的神经元覆盖率，且所述任一扰动的扰动距离小于预设距离阈值，则将所述任一扰动与原始输入相加作为检测样本，并通过所述检测样本对所述待测深度学习系统的漏洞进行检测。

6.根据权利要求5所述的方法，其特征在于，所述通过所述检测样本对所述待测深度学习系统的漏洞进行检测，具体包括：

若将所述检测样本输入至所述待测深度学习系统输出的标签与所述原始标签不同，则所述检测样本为对抗样本；

否则，将所述检测样本更新为所述原始输入，返回执行所述以最大化神经元覆盖率为导向，从待测深度学习系统中选取并激活若干个神经元的步骤。