[发明专利]样本标注信息的审核方法及装置有效
申请号: | 201910538177.X | 申请日: | 2019-06-20 |
公开(公告)号: | CN110222791B | 公开(公告)日: | 2020-12-04 |
发明(设计)人: | 徐青松;李青 | 申请(专利权)人: | 杭州睿琪软件有限公司 |
主分类号: | G06K9/62 | 分类号: | G06K9/62;G06N3/04 |
代理公司: | 上海思捷知识产权代理有限公司 31295 | 代理人: | 王宏婧 |
地址: | 310053 浙江省杭州市滨江*** | 国省代码: | 浙江;33 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 样本 标注 信息 审核 方法 装置 | ||
本发明提供一种样本标注信息的审核方法及装置,所述方法包括:获取需要进行审核的标注样本并组成训练样本集;将训练样本集分为预设数量个子样本集,对不同的子样本集分别进行训练,建立不同的第一识别模型;获取作为测试使用的识别样本集,针对识别样本集中的每一识别样本,通过建立的不同的第一识别模型分别进行识别,得到每一第一识别模型对该识别样本的识别结果,统计各识别结果的出现次数,当存在出现次数不小于预设阈值的识别结果时,将出现次数小于预设阈值的识别结果对应的第一识别模型确定为目标识别模型;对目标识别模型对应的子样本集中的标注样本进行标注信息审核。应用本发明提供的方案可以快速审核样本的标注结果。
技术领域
本发明涉及人工智能技术领域,尤其涉及一种样本标注信息的审核方法、装置、电子设备和计算机可读存储介质。
背景技术
在人工智能领域的模型训练中需要对样本进行标注,比如通过人工来对样本进行标注,或者通过预先建立好的神经网络识别模型对样本进行自动识别并标注。为保证模型训练的准确率,还需要对样本的标注信息是否准确进行审核。
目前,通常是由人工对所有已标注的样本的标注信息进行审核。然而,由于样本集中样本的数量比较大,这样就会花费较多时间和人力来审核样本的标注信息。
发明内容
本发明的目的在于提供一种样本标注信息的审核方法、装置、电子设备和计算机可读存储介质,以快速审核样本的标注信息。具体技术方案如下:
第一方面,本发明提供了一种样本标注信息的审核方法,所述方法包括:
获取需要进行审核的标注样本并组成训练样本集;其中,所述标注样本预先标注有标注信息;
将所述训练样本集分为预设数量个子样本集,对不同的子样本集分别进行训练,建立不同的第一识别模型;所述第一识别模型为基于神经网络的模型;
获取作为测试使用的识别样本集,针对所述识别样本集中的每一识别样本,通过建立的不同的第一识别模型分别进行识别,得到每一第一识别模型对该识别样本的识别结果,统计各识别结果的出现次数,当存在出现次数不小于预设阈值的识别结果时,将出现次数小于所述预设阈值的识别结果对应的第一识别模型确定为目标识别模型;
对所述目标识别模型对应的子样本集中的标注样本进行标注信息审核。
可选的,当存在出现次数均不小于预设阈值的多个识别结果时,所述方法还包括:
将目标识别结果对应的第一识别模型确定为目标识别模型;
其中,所述目标识别结果为所述多个识别结果中除出现次数最多的识别结果以外的识别结果。
可选的,当各识别结果的出现次数均小于所述预设阈值,所述方法还包括:
对该识别样本进行审核,得到该识别样本的审核结果。
可选的,对该识别样本进行审核之后,所述方法还包括:
判断该识别样本的审核结果是否存在于不同的第一识别模型对该识别样本的识别结果中;
如果存在,则将识别结果与所述审核结果不同的第一识别模型确定为目标识别模型;
如果不存在,则将全部第一识别模型确定为目标识别模型。
可选的,所述预设数量大于等于3。
优选的,所述预设数量大于等于5。
可选的,所述将所述训练样本集分为预设数量个子样本集,包括:
将所述训练样本集平均分为预设数量个子样本集,任意两个子样本集中样本的数量差小于等于1。
可选的,所述获取作为测试使用的识别样本集,包括:
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于杭州睿琪软件有限公司,未经杭州睿琪软件有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201910538177.X/2.html,转载请声明来源钻瓜专利网。
- 上一篇:用户身份识别方法、装置及服务器
- 下一篇:一种基于孪生网络的标签缺陷检测算法
- 信息记录介质、信息记录方法、信息记录设备、信息再现方法和信息再现设备
- 信息记录装置、信息记录方法、信息记录介质、信息复制装置和信息复制方法
- 信息记录装置、信息再现装置、信息记录方法、信息再现方法、信息记录程序、信息再现程序、以及信息记录介质
- 信息记录装置、信息再现装置、信息记录方法、信息再现方法、信息记录程序、信息再现程序、以及信息记录介质
- 信息记录设备、信息重放设备、信息记录方法、信息重放方法、以及信息记录介质
- 信息存储介质、信息记录方法、信息重放方法、信息记录设备、以及信息重放设备
- 信息存储介质、信息记录方法、信息回放方法、信息记录设备和信息回放设备
- 信息记录介质、信息记录方法、信息记录装置、信息再现方法和信息再现装置
- 信息终端,信息终端的信息呈现方法和信息呈现程序
- 信息创建、信息发送方法及信息创建、信息发送装置