[发明专利]意图识别模型训练方法、识别方法、装置、设备及介质在审
申请号: | 202111159845.1 | 申请日: | 2021-09-30 |
公开(公告)号: | CN113886548A | 公开(公告)日: | 2022-01-04 |
发明(设计)人: | 胡超文 | 申请(专利权)人: | 平安普惠企业管理有限公司 |
主分类号: | G06F16/332 | 分类号: | G06F16/332;G06F16/35;G06K9/62 |
代理公司: | 深圳众鼎专利商标代理事务所(普通合伙) 44325 | 代理人: | 谭果林 |
地址: | 518000 广东省深圳市*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 意图 识别 模型 训练 方法 装置 设备 介质 | ||
1.一种意图识别模型训练方法,其特征在于,包括:
获取预设对话样本数据集,所述预设对话样本数据集中的对话样本对应一个意图标签链,所述意图标签链包括意图级别依次细化的多个标准意图标签;
将所述对话样本输入含有初始参数的预设识别模型中,以通过所述预设识别模型对所述对话样本进行意图预测,得到意图级别依次细化的多个意图预测标签;
根据所述多个意图预测标签和所述多个标准意图标签,确定所述预设识别模型的总损失值;
在所述总损失值未达到预设收敛条件时,迭代更新所述预设识别模型的初始参数,直至所述总损失值达到所述预设收敛条件时,将收敛之后的所述预设识别模型记录为意图识别模型。
2.如权利要求1所述的意图识别模型训练方法,其特征在于,所述将所述对话样本输入含有初始参数的预设识别模型中,以通过所述预设识别模型对所述对话样本进行意图预测,得到意图级别依次细化的多个意图预测标签,包括:
将所述对话样本输入所述预设识别模型的输入层,以获得所述输入层输出的所述对话样本的上下文语义向量;
将所述上下文语义向量输入所述预设识别模型的特征提取模块,以获得所述特征提取模块输出的多个拼接特征向量序列,所述多个拼接特征向量序列的特征向量依次增加;
将所述拼接特征向量序列输入所述预设识别模型中对应的多层感知机,以使所述多层感知机对所述拼接特征向量序列进行意图预测;
获取多个所述多层感知机输出的意图预测标签,作为所述多个意图预测标签。
3.如权利要求2所述的意图识别模型训练方法,其特征在于,所述将所述上下文语义向量输入所述预设识别模型的特征提取模块,以获得所述特征提取模块输出的多个拼接特征向量序列,包括:
将所述上下文语义向量输入所述特征提取模块,以获取所述特征提取模块中多个特征提取层对应输出的语义特征向量,所述特征提取模块由所述多个特征提取层依次堆叠形成,所述特征提取层输出的特征向量为下一特征提取层的输入;
根据所述多个特征提取层的排列顺序,对所述多个特征提取层对应输出的语义特征向量进行划分组合,以获得所述多个拼接特征向量序列。
4.如权利要求3所述的意图识别模型训练方法,其特征在于,所述将所述上下文语义向量输入所述特征提取模块,以使所述特征提取模块的多个特征提取层对应输出语义特征向量,包括:
在所述对话样本的上下文语义向量中,确定坐席文本样本的第一语义向量和客户文本样本的第二语义向量;
将所述第一语义向量和所述第二语义向量输入第一个特征提取层,以使所述第一个特征提取层对所述第一语义向量和所述第二语义向量进行特征提取,并对提取到的特征向量进行语义关系捕获,以获得所述第一个特征提取层输出的语义特征向量;
将所述第一个特征提取层提取到的特征向量输入下一特征提取层,以使下一特征提取层对输入的特征向量进行特征提取,并对提取到的特征向量进行语义关系捕获,以获得下一特征提取层输出的语义特征向量;
依次遍历所有的特征提取层,以获得多个所述特征提取层对应输出的语义特征向量。
5.如权利要求4所述的意图识别模型训练方法,其特征在于,所述将所述第一语义向量和所述第二语义向量输入第一个特征提取层,以使所述第一个特征提取层对所述第一语义向量和所述第二语义向量进行特征提取,并对提取到的特征向量进行语义关系捕获,以获得所述第一个特征提取层输出的语义特征向量,包括:
将所述第一语义向量输入所述第一个特征提取层的第一编码器,以获得所述第一编码器输出的第一特征向量;
将所述第二语义向量输入所述第一个特征提取层的第二编码器,以获得所述第二编码器输出的第二特征向量;
将所述第一特征向量和所述第二特征向量,输入所述第一个特征提取层的双向注意力模块,以使所述双向注意力模块对所述第一特征向量和所述第二特征向量进行语义关系捕获,并输出所述语义特征向量。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于平安普惠企业管理有限公司,未经平安普惠企业管理有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202111159845.1/1.html,转载请声明来源钻瓜专利网。