[发明专利]投诉预测方法及其模型建立方法、装置以及相关设备

权利要求书

1.一种投诉预测模型建立方法，其特征在于，包括：

设置所述投诉预测模型的预测的标签集合；

获取历史客服对话文本以及历史客服对话文本的标签；

使用LTP语言处理工具对所述历史客服对话文本进行分词，生成词掩码序列以及句法依存关系图；

使用BERT分词器基于所述历史客服对话文本，生成字令牌id序列、字位置id序列、字片段id序列以及字掩码序列；

将所述字令牌id序列、字位置id序列、字片段id序列输入模型编码层，获得所述历史客服对话文本标识的用户内容在字符维度的字特征序列；

将所述字特征序列和字掩码序列转换为设定尺寸，并基于所述字特征序列和字掩码序列获得词特征序列；

将所述词特征序列输入至语法层的图神经网络，以感知所述词特征序列的语法特征；

根据所述词特征序列的语法特征以及词掩码序列输出所述历史客服对话文本的句子表示；

对所述句子表示执行仿射变换以及归一化处理，获得所述投诉预测模型输出的标签的标签概率分布；

将所述句子表示输入至标签混淆层，计算伪标签概率分布；

根据所述伪标签概率分布和所述标签概率分布计算所述投诉预测模型的损失函数；

迭代训练所述投诉预测模型，以使得所计算的损失函数符合设定条件。

2.如权利要求1所述的投诉预测模型建立方法，其特征在于，所述获取历史客服对话文本以及历史客服对话文本的标签还包括：

设置所述历史客服对话文本的最大词数量；

设置所述历史客服对话文本中的词的最大字符数量。

3.如权利要求1所述的投诉预测模型建立方法，其特征在于，所述字特征序列为仅使用所述BERT分词器的前6个输出字符获得的序列，输入所述编码层获得的字特征序列。

4.如权利要求1所述的投诉预测模型建立方法，其特征在于，所述将所述字特征序列和字掩码序列转换为设定尺寸，并基于所述字特征序列和字掩码序列获得词特征序列包括：

以所述字掩码序列的字掩码为权重，对单词字符维度对单词的各字符的特征求平均，获得词特征序列。

5.如权利要求1所述的投诉预测模型建立方法，其特征在于，所述语法层的图神经网络包括两个多关系图神经网络层。

6.如权利要求5所述的投诉预测模型建立方法，其特征在于，所述投诉预测模型的损失函数为KL散度。

7.一种投诉预测方法，其特征在于，包括：

接收用户输入的对话文本；

根据所述对话文本，生成字令牌id序列、字位置id序列、字分段id序列、字掩码序列以及句法依存关系图；

将所述对话文本，生成字令牌id序列、字位置id序列、字分段id序列、字掩码序列以及句法依存关系图输入如权利要求1至6任一项所述的投诉预测模型建立方法建立的投诉预测模型中；

获取所述投诉预测模型预测的标签的标签概率分布；

将所述标签概率分布中概率最高的标签作为所述对话文本的预测标签。