[发明专利]数据质检方法、装置、设备及存储介质有效
申请号: | 202310010360.9 | 申请日: | 2023-01-05 |
公开(公告)号: | CN115687334B | 公开(公告)日: | 2023-05-16 |
发明(设计)人: | 赵之源;党旭勇;谢凯;尹曦;谢育涛 | 申请(专利权)人: | 粤港澳大湾区数字经济研究院(福田) |
主分类号: | G06F16/215 | 分类号: | G06F16/215;G06F40/242;G06N3/0455;G06N3/08;G06V10/82;G06V10/764;G10L15/01;G10L15/02;G10L15/06;G10L15/16;G10L15/26;G10L25/30;G10L25/51;G10L2 |
代理公司: | 深圳市世纪恒程知识产权代理事务所 44287 | 代理人: | 付海萍 |
地址: | 518000 广东省深圳市福田区福*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 数据 质检 方法 装置 设备 存储 介质 | ||
1.一种数据质检方法,其特征在于,所述数据质检方法包括:
获取多个待检测数据,所述待检测数据包括样本数据和标注数据,其中,所述样本数据为以句子为单位的音频数据,所述标注数据为标注文本数据;
对所述标注数据进行预处理,得到标准化数据;
从所述标准化数据中提取特征,得到特征序列;
根据所述样本数据和所述特征序列对预设模型进行训练,得到训练好的目标模型,其中,预设模型的输入为音频数据,输出为音频预测的token序列,根据标注数据对应的特征序列和预测的token序列进行模型训练和模型参数调整,得到训练好的目标模型;
利用所述目标模型对所述样本数据进行识别,得到识别数据;
根据所述标注数据和所述识别数据确定各个所述待检测数据的误码指标值;
将误码指标值大于预设阈值的待检测数据确定为问题数据;
其中,所述根据所述标注数据和所述识别数据确定各个所述待检测数据的误码指标值,包括:
计算所述标注文本数据与所述识别数据之间的编辑距离;
根据所述编辑距离确定各个所述待检测数据的词错误率;
根据所述词错误率确定各个所述待检测数据的误码指标值。
2.如权利要求1所述的数据质检方法,其特征在于,所述根据所述词错误率确定各个所述待检测数据的误码指标值,包括:
确定所述标注文本数据与所述识别数据中各单词之间的插入个数、删除个数以及替换个数;
根据所述插入个数、所述删除个数、所述替换个数以及所述词错误率确定各个所述待检测数据的误码指标值。
3.如权利要求1所述的数据质检方法,其特征在于,所述对所述标注数据进行预处理,得到标准化数据,包括:
对所述标注文本数据进行拼写校正处理、数字和缩写转单词处理、大小写转换处理以及标点去除处理,得到标准化数据。
4.如权利要求1所述的数据质检方法,其特征在于,所述从所述标准化数据中提取特征,得到特征序列,包括:
以词为单位切分所述标准化数据,得到多个词汇;
对所述多个词汇进行去重处理;
根据去重处理后的词汇构建词典,所述词典包括单词和对应的序号;
查询所述词典,确定所述标准化数据中各个词汇的序号,得到特征序列。
5.如权利要求1至4中任一项所述的数据质检方法,其特征在于,所述将误码指标值大于预设阈值的待检测数据确定为问题数据之后,所述方法还包括:
在接收到当前质检任务和待质检数据时,根据所述当前质检任务确定对应的已训练模型,所述待质检数据包括待质检样本数据和待质检标注数据;
根据所述已训练模型对所述待质检样本数据进行识别,得到目标识别数据;
根据所述待质检标注数据和所述目标识别数据确定所述待质检数据的当前误码指标值;
若所述当前误码指标值大于所述预设阈值,则将所述待质检数据确定为问题数据。
6.如权利要求1至4中任一项所述的数据质检方法,其特征在于,所述根据所述样本数据和所述特征序列对预设模型进行训练,得到训练好的目标模型之后,所述方法还包括:
获取人工验证通过的标准数据,所述标准数据包括标准样本数据和标准标注数据;
利用所述目标模型对所述标准样本数据进行识别,得到标准识别数据;
根据所述标准识别数据和所述标准标注数据确定所述目标模型的识别精度;
在所述识别精度低于预设精度时,对所述目标模型的模型参数进行调整,得到调整后的目标模型。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于粤港澳大湾区数字经济研究院(福田),未经粤港澳大湾区数字经济研究院(福田)许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202310010360.9/1.html,转载请声明来源钻瓜专利网。
- 数据显示系统、数据中继设备、数据中继方法、数据系统、接收设备和数据读取方法
- 数据记录方法、数据记录装置、数据记录媒体、数据重播方法和数据重播装置
- 数据发送方法、数据发送系统、数据发送装置以及数据结构
- 数据显示系统、数据中继设备、数据中继方法及数据系统
- 数据嵌入装置、数据嵌入方法、数据提取装置及数据提取方法
- 数据管理装置、数据编辑装置、数据阅览装置、数据管理方法、数据编辑方法以及数据阅览方法
- 数据发送和数据接收设备、数据发送和数据接收方法
- 数据发送装置、数据接收装置、数据收发系统、数据发送方法、数据接收方法和数据收发方法
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置