[发明专利]检测黑盒模型中变量重要性的方法和装置

说明书

技术领域

本申请涉及数据处理技术领域，尤其涉及一种检测黑盒模型中变量重要性的方法和装置。

背景技术

随着互联网技术的发展，经常需要系统性的预测方案，例如数据挖掘模型。非线性模型因其优于传统线性模型的预测性能而在计算机安全领域广为应用。

但是，非线性模型会面临模型黑盒问题，即知道模型输出分数却无法理解真正起作用的变量，无法解析模型的打分行为，也无法从变量角度进行人为的模型优化。

发明内容

本申请旨在至少在一定程度上解决相关技术中的技术问题之一。

为此，本申请的一个目的在于提出一种检测黑盒模型中变量重要性的方法，该方法可以获知黑盒模型中各变量的重要性，从而理解模型的打分思维，优化模型结构，进而提升系统对外部攻击的预测能力和防御能力。

本申请的另一个目的在于提出一种检测黑盒模型中变量重要性的装置。

为达到上述目的，本申请第一方面实施例提出的检测黑盒模型中变量重要性的方法，包括：获取黑盒模型的原始分数；选取所述黑盒模型中当前处理的变量，并获取所述当前处理的变量的替换值；将所述替换值作为所述黑盒模型的输入重新计算所述黑盒模型的分数，得到重新计算后的分数；获取所述重新计算后的分数与所述原始分数的差值；根据所述差值确定所述当前处理的变量的重要性。

本申请第一方面实施例提出的检测黑盒模型中变量重要性的方法，通过将当前处理的变量的替换值作为输入重新计算分数，根据重新计算后的分数与原始分数的差值确定当前处理的变量的重要性，可以获知黑盒模型中各变量的重要性，从而理解模型的打分思维，优化模型结构，进而提升系统对外部攻击的预测能力和防御能力。

为达到上述目的，本申请第二方面实施例提出的检测黑盒模型中变量重要性的装置，包括：获取模块，用于获取黑盒模型的原始分数；选取模块，用于选取所述黑盒模型中当前处理的变量，并获取所述当前处理的变量的替换值；计算模块，用于将所述替换值作为所述黑盒模型的输入重新计算所述黑盒模型的分数，得到重新计算后的分数；处理模块，用于获取所述重新计算后的分数与所述原始分数的差值；确定模块，用于根据所述差值确定所述当前处理的变量的重要性。

本申请第二方面实施例提出的检测黑盒模型中变量重要性的装置，通过将当前处理的变量的替换值作为输入重新计算分数，根据重新计算后的分数与原始分数的差值确定当前处理的变量的重要性，可以获知黑盒模型中各变量的重要性，从而理解模型的打分思维，优化模型结构，进而提升系统对外部攻击的预测能力和防御能力。

本申请附加的方面和优点将在下面的描述中部分给出，部分将从下面的描述中变得明显，或通过本申请的实践了解到。

附图说明

本申请上述的和/或附加的方面和优点从下面结合附图对实施例的描述中将变得明显和容易理解，其中：

图1是本申请一实施例提出的检测黑盒模型中变量重要性的方法的流程示意图；

图2是本申请另一实施例提出的检测黑盒模型中变量重要性的方法的流程示意图；

图3是本申请另一实施例提出的检测黑盒模型中变量重要性的方法的流程示意图；

图4是本申请另一实施例提出的检测黑盒模型中变量重要性的装置的结构示意图；

图5是本申请另一实施例提出的检测黑盒模型中变量重要性的装置的结构示意图。

具体实施方式

下面详细描述本申请的实施例，所述实施例的示例在附图中示出，其中自始至终相同或类似的标号表示相同或类似的元件或具有相同或类似功能的元件。下面通过参考附图描述的实施例是示例性的，仅用于解释本申请，而不能理解为对本申请的限制。相反，本申请的实施例包括落入所附加权利要求书的精神和内涵范围内的所有变化、修改和等同物。

图1是本申请一实施例提出的检测黑盒模型中变量重要性的方法的流程示意图，该方法包括：

S11：获取黑盒模型的原始分数。

本实施例的执行主体可以是风险模型平台的模型解释模块。

其中，黑盒模型指一些其内部规律还很少为人们所知的模型。例如，黑盒模型可以是非线性风险预估模型。

原始分数是指根据黑盒模型的变量的初始值计算出的分数。

S12：选取所述黑盒模型中当前处理的变量，并获取所述当前处理的变量的替换值。

其中，在处理时可以依次选择一个黑盒模型的一个变量进行处理，当前处理的变量是指当前在多个变量中选择的一个变量。