[发明专利]基于业务安全的分类模型训练方法、装置和存储介质

说明书

本申请涉及一种基于业务安全的分类模型训练方法、装置和存储介质，所述方法包括：获取目标业务的全量样本；通过至少一种的异常检测方式对所述全量样本进行异常检测，从所述全量样本中确定出异常样本；从所述异常样本中筛选样本内容满足恶意条件的恶意样本；根据所述全量样本中除去所述恶意样本后的样本，确定正常样本；基于所述恶意样本和所述正常样本对初始的分类模型进行训练，得到用于对所述目标业务进行安全管控的分类模型。本申请提供的方案可以减少安全管控的成本。

技术领域

本申请涉及计算机技术领域，特别是涉及一种基于业务安全的分类模型训练方法、装置、计算机可读存储介质和计算机设备。

背景技术

随着互联网技术的广泛使用，给人们的生活和工作带来便利的同时，也存在一些安全隐患。比如，在一些业务场景中，用户可通过社交网络发布用户自己创建内容，比如UGC(User Generated Content，用户生成内容)内容等，而有些恶意用户则利用这些方式来散播恶意内容，比如，垃圾消息、黄色暴力信息、或违反法律法规的信息等，这给大家的生活和工作都带来了非常不好的影响。因而如何去筛选甄别这些恶意内容就变得非常重要。

传统的筛选甄别网络中的恶意内容的方式，通常是基于关键词匹配的方式。比如，可根据不同的业务场景，维护一份关于黑词的表格，根据发布内容中出现黑词的次数来筛选恶意内容。但对于传统的筛选方式，随着时间的迁移，需要人工维护的关键词也就越来越多，词语之间的组合也越来越复杂，使得人工运维成本巨大。

发明内容

基于此，有必要针对传统的恶意内容筛选的方式成本高的技术问题，提供一种基于业务安全的分类模型训练方法、装置、计算机可读存储介质和计算机设备。

一种基于业务安全的分类模型训练方法，包括：

获取目标业务的全量样本；

通过至少一种的异常检测方式对所述全量样本进行异常检测，从所述全量样本中确定出异常样本；

从所述异常样本中筛选样本内容满足恶意条件的恶意样本；

根据所述全量样本中除去所述恶意样本后的样本，确定正常样本；

基于所述恶意样本和所述正常样本对初始的分类模型进行训练，得到用于对所述目标业务进行安全管控的分类模型。

一种基于业务安全的分类模型训练装置，所述装置包括：

获取模块，用于获取目标业务的全量样本；

确定模块，用于通过至少一种的异常检测方式对所述全量样本进行异常检测，从所述全量样本中确定出异常样本；

筛选模块，用于从所述异常样本中筛选样本内容满足恶意条件的恶意样本；

所述确定模块，还用于根据所述全量样本中除去所述恶意样本后的样本，确定正常样本；

训练模块，用于基于所述恶意样本和所述正常样本对初始的分类模型进行训练，得到用于对所述目标业务进行安全管控的分类模型。

一种计算机可读存储介质，存储有计算机程序，所述计算机程序被处理器执行时，使得所述处理器执行以下步骤：

获取目标业务的全量样本；

通过至少一种的异常检测方式对所述全量样本进行异常检测，从所述全量样本中确定出异常样本；

从所述异常样本中筛选样本内容满足恶意条件的恶意样本；

根据所述全量样本中除去所述恶意样本后的样本，确定正常样本；

基于所述恶意样本和所述正常样本对初始的分类模型进行训练，得到用于对所述目标业务进行安全管控的分类模型。