[发明专利]检测业务预测模型安全性的方法及装置

说明书

本说明书实施例提供一种检测业务预测模型安全性的方法及装置，在检测业务预测模型安全性的方法中，在业务预测模型针对第一业务对象进行业务预测的过程中，获取业务预测模型的各层网络中各神经元的激活处理结果。根据各层网络中各神经元的激活处理结果，识别第一业务对象是否为异常对象。至少根据第一业务对象的识别结果，确定业务预测模型是否受到安全攻击。

技术领域

本说明书一个或多个实施例涉及计算机技术领域，尤其涉及一种检测业务预测模型安全性的方法及装置。

背景技术

随着机器学习技术的不断发展与普及，越来越多的领域采用通过机器学习算法生成的业务预测模型，针对业务对象进行业务预测。比如，基于预先生成的人脸识别模型进行人脸识别，以及基于商品推荐模型向某用户推荐某商品等。

然而在上述业务预测模型发布上线之后，往往会有恶意攻击者对其进行攻击。在业务预测模型受到攻击的情况下，基于其所得到的预测结果往往是不准确的。

因此，希望提供一种检测业务预测模型安全性的方案，以便能够及时有效地发现业务预测模型的安全性问题。

发明内容

本说明书一个或多个实施例描述了一种检测业务预测模型安全性的方法及装置，可以有效地对业务预测模型进行安全检测。

第一方面，提供了一种检测业务预测模型安全性的方法，包括：

在所述业务预测模型针对第一业务对象进行业务预测的过程中，获取所述业务预测模型的各层网络中各神经元的激活处理结果；

根据所述各层网络中各神经元的激活处理结果，识别所述第一业务对象是否为异常对象；

至少根据所述第一业务对象的识别结果，确定所述业务预测模型是否受到安全攻击。

第二方面，提供了一种检测业务预测模型安全性的装置，包括：

获取单元，用于在所述业务预测模型针对第一业务对象进行业务预测的过程中，获取所述业务预测模型的各层网络中各神经元的激活处理结果；

识别单元，用于根据所述各层网络中各神经元的激活处理结果，识别所述第一业务对象是否为异常对象；

确定单元，用于至少根据所述第一业务对象的识别结果，确定所述业务预测模型是否受到安全攻击。

第三方面，提供了一种存储介质，其上存储有计算机程序，当所述计算机程序在计算机中执行时，令计算机执行第一方面的方法。

第四方面，提供了一种计算设备，包括存储器和处理器，所述存储器中存储有可执行代码，所述处理器执行所述可执行代码时，实现第一方面的方法。

本说明书一个或多个实施例提供的检测业务预测模型安全性的方法及装置，在业务预测模型针对业务对象进行业务预测的过程中，获取业务预测模型的各层网络中各神经元的激活处理结果。之后，通过对获取的激活处理结果进行异常分析，得到业务对象的识别结果。最后，基于业务对象的识别结果，确定业务预测模型是否受到安全攻击。由于各神经元的激活处理结果为业务预测模型针对业务对象进行业务预测时的中间形态，从而本方案可以从业务对象的中间形态角度出发，检测业务预测模型的安全性，由此可以大大提升模型安全检测的准确性。

附图说明

为了更清楚地说明本说明书实施例的技术方案，下面将对实施例描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本说明书的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其它的附图。

图1为本说明书提供的检测业务预测模型安全性的方法实施场景示意图；

图2为本说明书提供的业务预测模型示意图；