[发明专利]意图模型训练方法、装置、电子设备及存储介质在审
申请号: | 202211268272.0 | 申请日: | 2022-10-17 |
公开(公告)号: | CN115470337A | 公开(公告)日: | 2022-12-13 |
发明(设计)人: | 孙振华;孙晋权;张聪 | 申请(专利权)人: | 网易(杭州)网络有限公司 |
主分类号: | G06F16/332 | 分类号: | G06F16/332;G06F16/33;G06F16/335;G06F16/35;G06F40/126;G06F40/194;G06F40/30;G06K9/62 |
代理公司: | 北京超凡宏宇专利代理事务所(特殊普通合伙) 11463 | 代理人: | 王思楠 |
地址: | 310052 浙江省*** | 国省代码: | 浙江;33 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 意图 模型 训练 方法 装置 电子设备 存储 介质 | ||
1.一种意图模型训练方法,其特征在于,所述方法包括:
根据获取到的对话数据构建初始用户问题集合,并基于初始意图模型对所述初始用户问题集合中的用户话语文本进行意图识别,根据识别结果确定待识别用户问题集合;
对所述待识别用户问题集合进行聚类,得到多个聚类簇;
根据针对所述聚类簇的标注信息,得到各聚类簇的意图数据,所述意图数据包括各聚类簇中的用户话语文本以及意图名称;
根据所述各聚类簇的意图数据,对所述初始意图模型进行训练,得到待使用的目标意图模型。
2.根据权利要求1所述的意图模型训练方法,其特征在于,对所述待识别用户问题集合进行聚类,得到多个聚类簇,包括:
对所述待识别用户问题集合中各用户话语文本进行编码,得到文本表示集合,所述文本表示集合中包括多个文本表示,各文本表示分别为对应的用户话语文本的编码表示;
对所述文本表示集合进行聚类,得到多个聚类簇。
3.根据权利要求2所述的意图模型训练方法,其特征在于,所述对所述待识别用户问题集合中各用户话语文本进行编码,得到文本表示集合,包括:
将所述待识别用户问题集合中的用户话语文本输入至预先训练得到的目标文本表示模型,得到所述目标文本表示模型输出的文本表示;
将各文本表示组合为所述文本表示集合。
4.根据权利要求3所述的意图模型训练方法,其特征在于,所述将所述待识别用户问题集合中的用户话语文本输入至预先训练得到的目标文本表示模型之前,还包括:
获取训练数据集,所述训练数据集中包括:多个正样本文本与各所述正样本文本的文本表示、多个负样本文本与所述负样本文本的文本表示;
基于所述训练数据集、及预先构建的对比学习损失函数,对初始文本表示模型进行迭代训练,得到目标文本表示模型。
5.根据权利要求2所述的意图模型训练方法,其特征在于,所述对所述文本表示集合进行聚类,得到多个聚类簇,包括:
使用k均值聚类算法,对所述文本表示集合中各文本表示进行粗粒度聚类处理,得到至少一个粗粒度聚类簇;
使用密度聚类算法,对各粗粒度聚类簇分别进行细粒度聚类处理,根据处理结果,得到所述多个聚类簇。
6.根据权利要求5所述的意图模型训练方法,其特征在于,所述使用密度聚类算法,对各粗粒度聚类簇分别进行细粒度聚类处理,根据处理结果,得到所述多个聚类簇,包括:
使用密度聚类算法,对各粗粒度聚类簇分别进行细粒度聚类处理,得到多个细粒度聚类簇;
对所述多个细粒度聚类簇进行两两配对,得到多个聚类簇对;
采用平均链接距离,各聚类簇对中两个细粒度聚类簇的相似度;
根据各聚类簇对中两个细粒度聚类簇的相似度,对各细粒度聚类簇进行融合处理,得到融合后的聚类簇。
7.根据权利要求1-6任一项所述的意图模型训练方法,其特征在于,所述根据所述各聚类簇的意图数据,对所述初始意图模型进行训练之前,所述方法还包括:
确定各聚类簇中的用户话语文本的数量是否大于或等于预设数量阈值,若否,则对所述聚类簇进行扩充处理,得到新的聚类簇。
8.根据权利要求7所述的意图模型训练方法,其特征在于,所述对所述聚类簇进行扩充处理,得到新的聚类簇,包括:
使用同义句生成模型对所述聚类簇进行相似问扩充,得到扩充后的聚类簇;
对所述扩充后的聚类簇中的异常文本进行过滤,得到过滤后的聚类簇;
使用所述同义句生成模型对所述过滤后的聚类簇重新进行扩充,得到所述新的聚类簇。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于网易(杭州)网络有限公司,未经网易(杭州)网络有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202211268272.0/1.html,转载请声明来源钻瓜专利网。
- 上一篇:一种船舶用的水幕挡板及船舶
- 下一篇:一种创面敷贴及其制备方法