[发明专利]终端推理框架漏洞挖掘方法、装置、设备及存储介质

说明书

本发明属于机器学习技术领域，公开了一种终端推理框架漏洞挖掘方法、装置、设备及存储介质。该方法包括：对待测框架的源码文档进行特征检测，根据所述算子特征库和预设初始模型种子库构造模型种子库；对所述模型种子库进行变异操作得到待测框架漏洞测试用例；通过所述待测框架测试用例对所述待测框架进行漏洞测试。通过上述方式，实现了自动化检测终端推理框架，通过精确化的变异操作得到不同畸形用例进行测试，通过反复测试可以找到终端推理框架中的漏洞，由于测试用例是根据终端推理框架的特征和规则进行建立的，因此可以持续的、全面性、系统性的自动化检测漏洞，提高了漏洞检测的效率，进而提高了漏洞检测的全面性。

技术领域

本发明涉及机器学习技术领域，尤其涉及一种终端推理框架漏洞挖掘方法、装置、设备及存储介质。

背景技术

近年来，厂商在研发云端机器学习框架的同时，同样关注终端机器学习推理框架，发布了一系列终端机器学习推理框架，并已经被工业界广泛使用，如智能手机App、智能家居等。终端推理具备高效率、保护客户隐私数据、离线推理等优点，被广泛的应用于人脸识别、自动驾驶等场景。

但各大厂商目前主要关注其中功能、性能以及面向开发者的易用性，对终端推理框架本身实现层面的安全性缺乏充分考虑。如果终端机器学习推理框架使用者加载恶意模型，可能导致敏感数据泄露、任意代码执行的严重后果。除了模型文件中可能包含用于恶意目的的算子之外，算子的具体代码实现同样可能存在问题，如负责卷积操作的算子会涉及大量的数学计算，如果存在问题，同样会导致敏感信息泄露、任意代码执行的后果。

如何对终端机器学习推理框架的安全性进行系统化、自动化的检测，是保障终端安全的主要挑战。机器学习框架的复杂性使得其中会隐藏诸多安全风险，由于使用框架的开发者众多，并且开发者发布的产品面向海量的用户，一旦框架出现安全问题，将可能导致严重的危害。

上述内容仅用于辅助理解本发明的技术方案，并不代表承认上述内容是现有技术。

发明内容

本发明的主要目的在于提供一种终端推理框架漏洞挖掘方法、装置、设备及存储介质，旨在解决现有技术终端机器学习推理框架的安全性较低的技术问题。

为实现上述目的，本发明提供了一种终端推理框架漏洞挖掘方法，所述方法包括以下步骤:

对待测框架的源码文档进行特征检测，得到算子特征库；

根据所述算子特征库和预设初始模型种子库构造模型种子库；

对所述模型种子库进行变异操作得到待测框架漏洞测试用例；

通过所述待测框架测试用例对所述待测框架进行漏洞测试。

可选的，所述对所述模型种子库进行变异操作得到待测框架测试用例，包括：

获取模型种子库中的区块信息和/或条目信息；

检测所述算子特征库中的约束信息；

根据所述约束信息和区块信息和/或条目信息生成待测框架测试用例。

可选的，所述根据所述约束信息和区块信息和/或条目信息生成待测框架测试用例，包括：

根据所述约束信息生成解析框架；

根据所述解析框架对区块信息和/或条目信息进行逻辑变异得到变异信息；

根据所述变异信息生成待测框架测试用例。

可选的，所述区块信息包括子图信息以及张量信息，所述条目信息包括维度信息以及属性信息。

可选的，所述根据所述算子特征库和预设初始模型种子库构造模型种子库，包括：

根据所述预设初始模型种子库得到初始单算子模型文件；