[发明专利]基于RASP的机器学习模型安全检测方法

说明书

一种基于RASP的机器学习模型安全检测方法。其包括构建规则库；将规则表达式与待检测的机器学习模型文件进行匹配；构建监测环境；运行待检测的机器学习模型文件并检测；得到特征数据；建立恶意代码检测模型并输出预测结果；更新恶意代码样本和更新规则库等步骤。本发明效果：能够提供安全可信的机器学习模型运行环境，解决在运行机器学习模型文件时的数据安全问题，并能够在攻击发生前拦截，本方法适用性更广，实用性更强，效率更高，资源消耗小。

技术领域

本发明属于恶意代码检测技术领域，特别是涉及一种基于RASP的机器学习模型安全检测方法。

背景技术

随着时代的不断发展，越来越多的新技术融入了我们的日期生活，因此已经进入了大数据时代。目前大数据已在许多决策和预测领域中发挥了关键作用，例如推荐系统、业务分析等。收集、挖掘大数据以获取重要信息可以为世界经济和社会创造巨大价值，因此相关部门都对大数据的巨大潜力产生了兴趣。同时大数据也推动人工智能的逐渐成熟，因为大数据的一个最大应用就是用于人工智能，现在人工智能在应用上有很多突破。而在人工智能中最重要的是机器学习，但是至今尚未发现针对机器学习模型执行的安全防御研究。

目前的安全检测方法主要包括以下几种：

签名检测方法：目前大多数检测主要是基于特征码的检测技术、基于基因码的检测技术、启发式检测等，但它们都属于基于签名的检测。这类检测一般使用预先建立的数据库去扫描检测文件。

形式化验证检测方法：基于严格的数学基础，对计算机硬件和软件系统进行描述，开发和验证以证明程序是安全的。

机器学习的检测方法：主要分为动态和静态，静态的检测集中在从可移植的可执行文件(PE)的各种字段、段内容中获取特征。动态的检测依靠第三方的虚拟机沙箱的报告，即从报告中获取程序动态运行的信息，进而得到相关特征。

但这些传统的检测方法难以跟上时代的发展。攻击者可以很容易利用现有工具和框架躲避检测。

形式化验证检测方法过程过于复杂繁琐，且效率较低。

机器学习的检测方法很少有针对一些场景和使用环境。静态检测在实际使用中效果一般。动态的检测往往又依靠第三方的虚拟机沙箱，资源消耗极大。

发明内容

为了解决上述问题，本发明的目的在于提供了一种基于RASP的机器学习模型安全检测方法。

为了达到上述目的，本发明提供的基于RASP的机器学习模型安全检测方法包括按顺序进行的下列步骤：

1)收集已有的多个恶意代码样本，对所有恶意代码样本进行分类、对比并查找出相同的字符和数字，然后根据字符和数字出现的规律按照规则转换为规则表达式，之后将规则表达式进行存储而构建成用于静态检测机器学习模型文件的规则库；

2)将上述规则库中的规则表达式与待检测的机器学习模型文件的内容进行匹配，如果匹配成功，则判定该机器学习模型文件为恶意文件并结束运行，否则进入下一步骤；设置本步骤的目的是过滤掉一部分恶意文件，以避免浪费更多资源，由此完成静态检测过程；

3)建立监听集合，从上述多个恶意代码样本中提取出敏感函数和敏感类作为监听对象并记录到监听集合中；设置处理中心，选择检测方法以及各个危险等级的处理策略，并配置白名单或黑名单，建立参数规则库；创建监听函数，在监听集合中插入监听函数而形成监听点，设置执行虚拟机的跟踪功能而对待检测的机器学习模型文件进行跟踪，获得的跟踪数据由处理中心记录到日志文件中，由此构建成监测环境；

4)运行待检测的机器学习模型文件并检测，如果待检测的机器学习模型文件中调用了上述监听集合中插入有监听函数的敏感函数或敏感类，监听函数将收集监听数据并转发至处理中心，由处理中心进行处理；