[发明专利]优化风险检测模型的方法及装置

权利要求书

1.一种优化风险检测模型的方法，所述风险检测模型用于识别有风险或有安全隐患的业务对象，包括：

获取由业务对象构成的样本集，所述样本集中包括具有第一标签值的正常业务对象对应的正常样本和具有第二标签值的风险业务对象对应的原始风险样本，所述业务对象为账号、交易或文本，所述业务对象为账号时，所述正常样本和原始风险样本的样本特征包括如下至少之一：账号的注册时长、注册信息、最近一段时间的使用频次、发表评论的频次；所述业务对象为交易时，所述正常样本和原始风险样本的样本特征包括如下至少之一：交易金额、交易时间、支付渠道、交易双方属性信息；所述业务对象为文本时，所述正常样本和原始风险样本的样本特征包括如下至少之一：文本中的字符、文本发布时间、来源；

对于所述样本集中对应于风险业务对象的各个原始风险样本的样本特征，根据训练所述风险检测模型使用的损失函数以及当前的风险检测模型，确定用于生成变换的变换生成函数，该变换生成函数使得施加所述变换后的对抗风险样本针对第一标签值计算的损失值达到最小；利用所述变换生成函数，针对该原始风险样本的样本特征，生成攻击变换，得到对应的对抗风险样本的样本特征，所述对抗风险样本相对于对应的原始风险样本，利用所述损失函数针对第一标签值计算的损失值减小；

基于所述损失函数，确定所述风险检测模型处理各个对抗风险样本的样本特征对应的第一预测损失，以及处理各个正常样本的样本特征对应的第二预测损失；

至少基于所述第一预测损失和第二预测损失，确定针对所述样本集的总预测损失；

以所述总预测损失最小化为目标，调整所述风险检测模型的模型参数，以优化所述风险检测模型。

2.根据权利要求1所述的方法，其中，确定用于生成变换的变换生成函数，包括：

针对所述样本集中任意的第一原始风险样本，利用当前生成函数生成第一中间变换，并通过在第一原始风险样本的样本特征上叠加所述第一中间变换得到第一中间样本；

利用当前的风险检测模型计算第一中间样本的预测值，并将该预测值与所述第一标签值代入所述损失函数，得到所述第一中间样本针对第一标签值的对抗损失；

确定目标函数，其至少包括各个原始风险样本对应的中间样本的对抗损失之和；

以所述目标函数最小化为目标，调整所述当前生成函数中的参数，将调整后的当前生成函数确定为所述变换生成函数。

3.根据权利要求2所述的方法，其中，所述目标函数还包括，各个原始风险样本对应的中间变换的变换量绝对值之和或平方和。

4.根据权利要求1所述的方法，还包括，基于所述损失函数，确定所述风险检测模型针对各个原始风险样本的第三预测损失；

确定针对所述样本集的总预测损失包括，将所述总预测损失确定为，所述第一预测损失，第二预测损失和第三预测损失的加权和。

5.根据权利要求1所述的方法，其中，调整所述风险检测模型的模型参数，包括：

确定所述总预测损失相对于所述模型参数的参数梯度；

沿所述参数梯度下降的方向，调整所述模型参数的参数值。