[发明专利]一种部署的加密模型的安全性审计的方法和系统

权利要求书

1.一种用于部署的加密模型的安全性审计的数据源方设备，其中所述部署的加密模型是由数据需求方设备利用公钥进行同态加密后再部署到所述数据源方设备，其特征在于，所述数据源方设备被配置为：

向所述数据需求方设备发送对模型服务进行测试的测试请求，所述测试请求包括通过输入测试参数到所述数据源方设备所部署的加密模型而生成的用于测试的第一密文模型结果；

利用所述数据需求方设备先前提供的所述公钥对从所述数据需求方设备接收到的明文模型结果加密以生成第二密文模型结果；以及

通过将第一密文模型结果与第二密文模型结果进行比较以确定它们的一致性来审计模型服务的安全性风险。

2.一种用于部署的加密模型的安全性审计的数据需求方设备，其中所述部署的加密模型是由数据需求方设备利用公钥进行同态加密后再部署到数据源方设备，其特征在于，所述数据需求方设备被配置为：

接收来自所述数据源方设备的测试请求；

使用与所述公钥相对应的私钥将所述测试请求中包括的第一密文模型结果解密成明文模型结果；以及

将所述明文模型结果回传给所述数据源方设备。

3.如权利要求2所述的数据需求方设备，其特征在于，所述数据需求方设备还被配置为：

为所述测试请求设置测试阈值，并在接收到来自数据源方设备的测试请求后，仅当确定所述测试请求满足测试阈值，才进行所述解密和回传操作，其中所述测试阈值包括：在一个时间段内的测试次数上限或测试的时间间隔。

4.一种用于部署的加密模型的安全性审计的系统，其中所述部署的加密模型是由数据需求方设备利用公钥进行同态加密后再部署到数据源方设备，其特征在于，所述系统包括：

所述数据源方设备，被配置为：

向所述数据需求方设备发送对模型服务进行测试的测试请求，所述测试请求包括通过输入测试参数到所述数据源方设备所部署的加密模型而生成的用于测试的第一密文模型结果；

利用所述数据需求方设备先前提供的所述公钥对从所述数据需求方设备接收到的明文模型结果加密以生成第二密文模型结果；以及

通过将第一密文模型结果与第二密文模型结果进行比较以确定它们的一致性来审计模型服务的安全性风险；

所述数据需求方设备，被配置为：

接收来自所述数据源方设备的所述测试请求；

使用与所述公钥相对应的私钥将所述测试请求中包括的所述第一密文模型结果解密成所述明文模型结果；以及

将所述明文模型结果回传给所述数据源方设备。

5.一种用于部署的加密模型的安全性审计的方法，其中所述部署的加密模型是由数据需求方利用公钥进行同态加密后再部署到数据源方，其特征在于，所述方法包括：

数据源方向数据需求方发送对模型服务进行测试的测试请求，所述测试请求包括通过输入测试参数到所述数据源方所部署的加密模型而生成的用于测试的第一密文模型结果；

所述数据需求方使用与所述公钥相对应的私钥将接收到的所述测试请求中包括的所述第一密文模型结果解密成明文模型结果，并将所述明文模型结果回传给所述数据源方；以及

所述数据源方利用所述数据需求方先前提供的公钥对接收到的所述明文模型结果加密以生成第二密文模型结果，并通过将所述第一密文模型结果与所述第二密文模型结果进行比较以确定它们的一致性来审计模型服务的安全性风险。

6.如权利要求5所述的方法，其特征在于，所述方法还包括：所述数据需求方为所述测试请求设置测试阈值，并在接收到来自所述数据源方设备的测试请求后，仅当确定所述测试请求满足测试阈值，才进行所述解密和回传步骤，其中所述测试阈值包括：在一个时间段内的测试次数上限或测试的时间间隔。