[发明专利]提高检测模型鲁棒性的可知性判断方法及装置

说明书

本发明实施例提供一种提高检测模型鲁棒性的可知性判断方法及装置，该方法包括：获取待验证对象的特征向量与所有训练集样本特征向量的汉明距离最小值；若所述汉明距离的最小值大于预设汉明距离阈值，则所述待验证对象，对于以所述训练集训练的卷积神经网络模型为不可知的；其中，所述汉明距离阈值，根据测试集样本对训练后的卷积神经网络模型的测试结果，以及每一测试样本与每一训练样本的汉明距离分布得到。该方法实现过程简单，通过该汉明距离阈值，能够准确判断出待验证对象的可知性，能够有效避免因模型检测出错导致的失误。若不可知对象过多，说明模型检测效果不佳，该方法可以作为模型是否进行更新的指导。

技术领域

本发明涉及恶意软件检测领域，尤其涉及一种提高检测模型鲁棒性的可知性判断方法及装置。

背景技术

近年来，恶意程序的数量呈指数级的增长，已经成为威胁互联网安全的关键因素之一。如何对恶意程序进行有效检测和查杀，也成为了企业与网络安全人员着重思考的问题之一。随着人工智能技术的不断发展与完善，能够将人工智能技术应用到恶意程序检测中。

随着人工智能方法研究的不断深入，机器学习方法在各个科研领域被广泛细致地进行了研究，同时在很多应用领域中被广泛使用。对于机器学习模型的离线训练，包括TensorFlow，PyTorch等在内的框架为人们提供了比较成熟的离线训练环境。而对在线学习的实际场景，为快速发现系统级别的全局数据变化和新产生的数据所具有的新特征，都需要根据线上生产环境对模型进行实时的更新和学习。但这种在线更新的方法，迄今为止仍是业界的一个难点。

当前模型的在线更新方法包括全量更新和增量更新相结合，以及对模型的局部更新两个主要方向。在全局更新中，模型直接利用某个时间段内的所有训练样本重新训练，而增量更新仅将新加入的样本喂入模型进行增量学习。全局更新和增量更新的结合达到在“实时性”和“全局最优”中间进行取舍和权衡。这两种方法都是对模型的漏报和误报进行收集，再对模型进行不同程度的更新，均为“后验”方法。漏报和误报，可能是由于模型本身的训练后的准确度导致，也可能是被验证对象的特征和训练集样本的特征存在较大差异导致，即模型对待验证对象不可知。

因此，亟需一种在对象进行验证之前，判断对象对于该模型是否可知(可判断或可分类)的方法，以指导模型的更新。

发明内容

为了解决上述问题，本发明实施例提供一种提高检测模型鲁棒性的可知性判断方法及装置。

第一方面，本发明实施例提供一种提高检测模型鲁棒性的可知性判断方法，包括：获取待验证对象的特征向量，与所有训练集样本特征向量的汉明距离最小值；若所述汉明距离的最小值大于预设汉明距离阈值，则所述待验证对象，对于以所述训练集训练的卷积神经网络模型为不可知的；其中，所述汉明距离阈值，根据测试集样本对训练后的卷积神经网络模型的测试结果，以及每一测试样本与每一训练样本的汉明距离分布得到。

进一步地，所述获取待验证对象的特征向量之前，还包括：获取多个已知结果的测试样本，得到测试集；将测试集的每一样本，输入训练后的卷积神经网络模型，获取测试集的测试结果；获取每一判对样本与所有训练集样本汉明距离的最小值，得到判对样本汉明距离分布，获取每一判错样本与所有训练集样本汉明距离的最小值，得到判错样本汉明距离分布；根据判对样本汉明距离分布和判错样本汉明距离分布，确定预设的汉明距离阈值。

进一步地，所述根据判对样本汉明距离分布和判错样本汉明距离分布，确定预设的汉明距离阈值，包括：根据判对样本汉明距离分布和预设的第一比例阈值，确定第一汉明距离，以使得判对样本中，小于第一汉明距离的样本占总判对样本的比例，大于第一比例阈值；根据判错样本汉明距离分布和预设的第二比例阈值，确定第二汉明距离，以使得判错样本中，大于第二汉明距离的样本占总判错样本的比例，大于第二比例阈值；根据第一汉明距离和/或第二汉明距离，确定汉明距离阈值。

进一步地，该方法还包括：若不可知的待验证对象超过预设数量，则对所述卷积神经网络模型进行训练更新。