[发明专利]违规语料的检测方法、装置、计算机设备及存储介质

说明书

本申请实施例属于人工智能领域，应用于智慧政务领域中，涉及一种违规语料的检测方法、装置、计算机设备及存储介质，包括基于历史语音文本生成携带一级标签的标注语料，一级标签包括有违规标签和无违规标签，携带有违规标签的标注语料携带二级标签；调整标注语料获得目标训练语料；基于目标训练语料和一级标签训练初始文本分类模型，获得目标文本分类模型，基于目标训练语料和二级标签训练初始语句分类模型，获得目标语句分类模型；将待识别语料输入目标文本分类模型，获得目标一级标签；在目标一级标签为有违规标签时，将待识别语料输入目标语句分类模型，获得目标二级标签。目标语句分类模型存储在区块链中。本申请有效提高对违规语料的识别。

技术领域

本申请涉及人工智能技术领域，尤其涉及违规语料的检测方法、装置、计算机设备及存储介质。

背景技术

随着计算机技术的不断革新和发展，计算机已经应用到各行各业中。在坐席与客户沟通的过程中，坐席常常容易出现违规的沟通语料，造成客户的体验度低。因此，对于沟通过程中产生的语料的质检是非常重要的一个环节。目前，对于语料的质检常常使用训练后的语料分类模型进行质检分类，从而确定出违规的语料。

但是，由于语料的数据量庞大，而其中真正违规的语料往往只占有很小的一部分，导致训练样本极度的不均衡，语料分类模型对于小概率的违规语料的检测效果不佳，经常发生对小概率的违规语料的难召回和对非违规语料的误召回的情况。

发明内容

本申请实施例的目的在于提出一种违规语料的检测方法、装置、计算机设备及存储介质，有效提高对违规语料的识别。

为了解决上述技术问题，本申请实施例提供一种违规语料的检测方法，采用了如下所述的技术方案：

一种违规语料的检测方法，包括下述步骤：

接收预标注的历史语音文本，基于语音识别技术将所述历史语音文本转化为标注语料，其中，所述标注语料携带一级标签，一级标签包括有违规标签和无违规标签，且携带有违规标签的标注语料同时携带二级标签；

基于预设的初始语料分类模型和概率阈值调整所述标注语料，获得目标训练语料；

基于所述目标训练语料和所述一级标签训练预设的初始文本分类模型，获得目标文本分类模型，并基于所述目标训练语料和所述二级标签训练预设的初始语句分类模型，获得目标语句分类模型；

接收待识别语料，将所述待识别语料输入至所述目标文本分类模型中，获得目标一级标签；

识别所述目标一级标签是否为有违规标签，在所述目标一级标签为有违规标签时，将所述待识别语料输入至所述目标语句分类模型中，获得目标二级标签。

进一步的，所述基于所述目标训练语料和所述二级标签训练预设的初始语句分类模型，获得目标语句分类模型的步骤包括：

分批次获取预设个数的目标训练语料，分别作为批次训练样本；

对每次获取的批次训练样本进行样本调整，获得调整后的批次训练样本；

分批次基于所述调整后的批次训练样本和所述二级标签训练预设的初始语句分类模型，获得所述目标语句分类模型。

进一步的，所述对每次获取的批次训练样本进行样本调整，获得调整后的批次训练样本的步骤包括：

分别识别二级标签所对应的批次训练样本的比例；

在所述比例小于比例阈值时，对所述二级标签所对应的剩余的目标训练语料进行随机抽样，获得抽样样本；

将所述抽样样本添加入所述批次训练样本中，直至所述比例大于所述比例阈值，获得所述调整后的批次训练样本。