[发明专利]一种基于XLNet的智能语音对话意图识别方法

权利要求书

1.一种基于XLNet的智能语音对话意图识别方法，其特征在于，包括以下步骤：

S1：将对话节点的标准问题和扩展的多个相似问题作为语料打标整理成文本样本；

S2：将文本样本拆分成训练集合和验证集合；

S3：将训练集合输入XLNet模型中，初始化原始相关权重，设置好迭代次数和步长，并在损失函数中加入Triplet loss损失，固定网络其他层，仅仅再次训练XLNet模型最后两层网络，直到XLNet模型收敛；

S4：通过离线准确率在验证集合上验证XLNet模型；

S5：线上预测时，预加载XLNet模型，提供接口接收待识别的语音转化为文本输入，输出文本输入相关的分类类别；

S6：在线上服务中添加对应的阀值计算和分类概率计算，所述阀值是通过训练时的所有样本取一个较大的分位数值用于判断是否激活输出相关的分类，通过归一化和softmax计算分类概率判断分类的合理程度；

S7：分类激活时通过配置文件得到相关分类的文本标题，否则返回默认分类。

2.根据权利要求1所述的一种基于XLNet的智能语音对话意图识别方法，其特征在于，所述将文本样本拆分成训练集合和验证集合之后还包括：通过多个实际通话录音完善语气词词库，通过语气词词库去除相关语气词。

3.根据权利要求1所述的一种基于XLNet的智能语音对话意图识别方法，其特征在于，所述通过计算阀值判断是否激活输出相关的分类，通过归一化和softmax计算分类概率判断分类的合理程度包括：

S61：将对话语音转化为对话文本，将对话文本输入XLNet模型得到该文本的分类概率；

S62：对各个节点的分类概率进行归一化，根据训练时得到的中位数数值确定相关的激活阀值，确定激活阀值输出以后对所有分类进行softmax概率计算，同时计算分类标题的相关性，如果标题相关，计算softmax概率时相互剔除相关标题后再进行概率计算，最后确定分类概率，分类概率大于80％为节点分类，分类概率小于80％为默认分类；

S63：按分类概率得到分类的lable标签，通过lable标签和分类名称的对应关系获取分类节点名称拼接结果，确定相应的应答。

4.根据权利要求1所述的一种基于XLNet的智能语音对话意图识别方法，其特征在于，所述预加载XLNet模型之前还包括：采用多个进程代理的方式，用缓存机制提前加载好训练的模型。