[发明专利]数据集安全测试方法、装置及存储介质

说明书

本申请实施例涉及人工智能领域，并提供数据集安全测试方法、装置及存储介质，方法包括接收中继服务器发送的模型测试请求；获取与模型测试请求对应的数据样本集和测试模型镜像；基于数据样本集对测试模型镜像进行模型测试，得到样本测试结果集；若确定样本测试结果集中存在误拒样本，基于误拒样本确定误拒样本集；将误拒样本集存储至预设的第一存储区域；若接收到中继服务器发送的第一数据下载请求，基于第一数据下载请求在第一存储区域中获取误拒样本集并发送至中继服务器。本方案使得业务服务器中除了第一存储区域以外的其他区域中存储数据均不能被下载只能被查看，提高了业务服务器中所存储数据集以及测试模型数据的安全性。

技术领域

本申请实施例涉及计算机视觉技术领域，尤其涉及一种数据集安全测试方法、装置及存储介质。

背景技术

在计算机视觉的算法场景下，用于测试模型的数据集安全是一个尤其需要关注的问题。在对现有技术的研究和实践过程中，本申请实施例的发明人发现，若将数据集全部存储于公共服务器上，则任何用户都能随意访问和下载这些数据集，若其中有一些数据集属于敏感数据集或者是不能随意下载类型的数据集，也因为存放在公共服务器上使得数据集安全性极低。

发明内容

本申请实施例提供了一种数据集安全测试方法、装置及存储介质，能够将用于测试模型的数据集均存储于业务服务器，将模型测试及样本测试结果集也均存储于业务服务器，当用户需查看样本测试结果集中的误拒样本集时，需要发送第一数据下载请求在业务服务器中验证，在验证通过的情况下才能具有权限下载误拒样本集进行查看，提高了业务服务器中所存储数据集的安全性。

第一方面中，从业务服务器的角度介绍本申请实施例提供的一种数据集安全测试方法，应用于数据集安全测试系统中的业务服务器，所述数据集安全测试系统还包括至少一个终端设备和中继服务器，所述业务服务器中存储有至少一个用于测试模型的数据集，所述方法包括：

接收所述中继服务器发送的模型测试请求；其中，所述模型测试请求在所述终端设备中生成并发送至所述中继服务器，所述模型测试请求中包括数据集路径、测试模型路径和测试模型镜像名称；

获取与所述模型测试请求对应的数据样本集和测试模型镜像；

基于所述数据样本集对所述测试模型镜像进行模型测试，得到样本测试结果集；

若确定所述样本测试结果集中存在误拒样本，基于误拒样本确定误拒样本集；其中，所述误拒样本集中每一误拒样本对应的样本测试结果与数据标注结果不同；

将所述误拒样本集存储至预设的第一存储区域；

从所述中继服务器接收到来自所述终端设备的第一数据下载请求后，基于所述第一数据下载请求在所述第一存储区域中获取所述误拒样本集并发送至所述中继服务器；其中，所述第一数据下载请求通过所述中继服务器验证。

第二方面中，具有实现对应于上述第一方面提供的数据集安全测试方法的功能。所述功能可以通过硬件实现，也可以通过硬件执行相应的软件实现。硬件或软件包括一个或多个与上述功能相对应的模块，所述模块可以是软件和/或硬件。

一种可能的设计中，所述装置包括：

收发模块和处理模块；

所述收发模块，用于接收中继服务器发送的模型测试请求；其中，所述模型测试请求在终端设备中生成并发送至中继服务器，所述模型测试请求中包括数据集路径、测试模型路径和测试模型镜像名称；

所述处理模块，用于获取与所述模型测试请求对应的数据样本集和测试模型镜像；基于所述数据样本集对所述测试模型镜像进行模型测试，得到样本测试结果集；

所述处理模块，还用于若确定所述样本测试结果集中存在误拒样本，基于误拒样本确定误拒样本集；其中，所述误拒样本集中每一误拒样本对应的样本测试结果与数据标注结果不同；将所述误拒样本集存储至预设的第一存储区域；