[发明专利]对话系统训练数据构建方法、装置、电子设备及存储介质有效
申请号: | 201910215916.1 | 申请日: | 2019-03-21 |
公开(公告)号: | CN109947924B | 公开(公告)日: | 2021-08-31 |
发明(设计)人: | 韩磊;张红阳;陈雷 | 申请(专利权)人: | 百度在线网络技术(北京)有限公司 |
主分类号: | G06F16/332 | 分类号: | G06F16/332;G06F16/33;G06F16/335 |
代理公司: | 北京清亦华知识产权代理事务所(普通合伙) 11201 | 代理人: | 宋合成 |
地址: | 100085 北京市*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 对话 系统 训练 数据 构建 方法 装置 电子设备 存储 介质 | ||
1.一种对话系统训练数据构建方法,其特征在于,包括:
对对话系统的历史使用数据进行统计处理,确定所述对话系统对应的历史查询语句集、每个历史查询语句对应的查询频次及每个历史查询语句对应的识别结果,其中,所述历史查询语句对应的识别结果包括所述历史查询语句对应的对话意图、槽位中的至少一种;
根据每个历史查询语句对应的查询频次,对所述历史查询语句集中各历史查询语句进行排序处理;
确定排序顺序位于预设范围内、且包含识别结果的历史查询语句,为参考查询语句,其中,所述预设范围为排序顺序的前N%,N大于0且小于或等于100;
判断全部参考查询语句的数量是否大于第一阈值;
若是,则利用所述全部参考查询语句及所述全部参考查询语句对应的识别结果,构建所述对话系统的训练数据集,其中,将所述参考查询语句对应的识别结果,作为所述参考查询语句对应的标注信息。
2.如权利要求1所述的方法,其特征在于,所述判断全部参考查询语句的数量是否大于第一阈值之后,还包括:
若否,则根据每个参考查询语句与每个非参考查询语句的语义相似度、及参考查询语句对应的第一识别结果与非参考查询语句对应的第二识别结果间的匹配度,从非参考查询语句中获取补充查询语句;
所述构建所述对话系统的训练数据集,包括:
利用所述全部参考查询语句、全部参考查询语句对应的识别结果、全部补充查询语句及全部补充查询语句对应的识别结果,构建所述对话系统的训练数据集。
3.如权利要求2所述的方法,其特征在于,所述从非参考查询语句中获取补充查询语句,包括:
获取与任一参考查询语句的语义相似度大于第二阈值、且与所述任一参考查询语句的对话意图的匹配度大于第三阈值的非参考查询语句,为补充查询语句。
4.如权利要求2所述的方法,其特征在于,所述从非参考查询语句中获取补充查询语句之后,还包括:
将匹配度大于第三阈值的第一识别结果及第二识别结果进行归一化处理。
5.如权利要求4所述的方法,其特征在于,所述构建所述对话系统的训练数据集之后,还包括:
确定所述训练数据集中包含的识别结果的数量及每种识别结果对应的查询语句的数量;
判断各识别结果对应的查询语句的数量间的差值是否均在预设范围内;
若否,则对所述训练数据集中的各识别结果对应的查询语句进行均衡处理,生成所述对话系统更新后的训练数据集。
6.一种对话系统训练数据构建装置,其特征在于,包括:
第一确定模块,用于对对话系统的历史使用数据进行统计处理,确定所述对话系统对应的历史查询语句集、每个历史查询语句对应的查询频次及每个历史查询语句对应的识别结果,其中,所述历史查询语句对应的识别结果包括所述历史查询语句对应的对话意图、槽位中的至少一种;
排序单元,用于根据每个历史查询语句对应的查询频次,对所述历史查询语句集中各历史查询语句进行排序处理;
确定单元,用于确定排序顺序位于预设范围内、且包含识别结果的历史查询语句,为参考查询语句,其中,所述预设范围为排序顺序的前N%,N大于0且小于或等于100;
第一判断模块,用于判断全部参考查询语句的数量是否大于第一阈值;
构建模块,用于若是,则利用所述全部参考查询语句及所述全部参考查询语句对应的识别结果,构建所述对话系统的训练数据集,其中,将所述参考查询语句对应的识别结果,作为所述参考查询语句对应的标注信息。
7.如权利要求6所述的装置,其特征在于,还包括:
第二获取模块,用于若否,则根据每个参考查询语句与每个非参考查询语句的语义相似度、及参考查询语句对应的第一识别结果与非参考查询语句对应的第二识别结果间的匹配度,从非参考查询语句中获取补充查询语句;
所述构建模块,包括:
构建单元,用于利用所述全部参考查询语句、全部参考查询语句对应的识别结果、全部补充查询语句及全部补充查询语句对应的识别结果,构建所述对话系统的训练数据集。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于百度在线网络技术(北京)有限公司,未经百度在线网络技术(北京)有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201910215916.1/1.html,转载请声明来源钻瓜专利网。
- 数据显示系统、数据中继设备、数据中继方法、数据系统、接收设备和数据读取方法
- 数据记录方法、数据记录装置、数据记录媒体、数据重播方法和数据重播装置
- 数据发送方法、数据发送系统、数据发送装置以及数据结构
- 数据显示系统、数据中继设备、数据中继方法及数据系统
- 数据嵌入装置、数据嵌入方法、数据提取装置及数据提取方法
- 数据管理装置、数据编辑装置、数据阅览装置、数据管理方法、数据编辑方法以及数据阅览方法
- 数据发送和数据接收设备、数据发送和数据接收方法
- 数据发送装置、数据接收装置、数据收发系统、数据发送方法、数据接收方法和数据收发方法
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置