[发明专利]样本获取方法、装置、电子设备及可读存储介质有效

专利信息
申请号: 201910171163.9 申请日: 2019-03-07
公开(公告)号: CN109961094B 公开(公告)日: 2021-04-30
发明(设计)人: 张志伟 申请(专利权)人: 北京达佳互联信息技术有限公司
主分类号: G06K9/62 分类号: G06K9/62
代理公司: 北京柏杉松知识产权代理事务所(普通合伙) 11413 代理人: 项京;丁芸
地址: 100085 北京市海淀*** 国省代码: 北京;11
权利要求书: 查看更多 说明书: 查看更多
摘要:
搜索关键词: 样本 获取 方法 装置 电子设备 可读 存储 介质
【说明书】:

本申请实施例提供了一种样本获取方法、装置、电子设备及可读存储介质,应用于互联网技术领域,所述方法包括:根据预先建立的标签树,确定预设标签在标签树中的层级,标签树是对训练集中每个数据携带的标签进行分类得到的;按照标签树从上到下的顺序,对样本集进行逐层筛选,使每一层的筛选结果作为下一层筛选的数据源,直至筛选的层级为预设标签在标签树中的层级;在每一层筛选时,计算该层对应的训练数据的平均特征,根据平均特征在该层数据源中选取预设比例的数据,将预设比例的数据作为筛选结果;获取预设标签在标签树中的层级对应的筛选结果。本申请实施例可提高样本获取的准确性。

技术领域

本申请涉及互联网技术领域,特别是涉及一种样本获取方法、装置、电子设备及可读存储介质。

背景技术

近年来,深度学习在视频图像、语音识别、自然语言处理等相关领域得到了广泛应用。卷积神经网络作为深度学习的一个重要分支,由于其超强的拟合能力以及端到端的全局优化能力,使得图像分类任务在应用卷积神经网络之后,预测精度大幅提升。但是,目前大多数的模型都严重依赖大规模的标注数据,也就是标注数据的规模是制约深度学习模型精度的决定性因素。如何获取大规模的标注数据集成为一个亟待解决的问题。

通常采用标注的方式获取标注数据,虽然经过时间的推移可以积累到大量的标注数据,但是如果不对标注数据进行筛选,则会造成标注数据集中不同种类数据严重不均衡。例如,某个视频平台,需要构建一个“动物”的数据集,如果对平台的全部数据进行标注,虽然会产生大量标注数据,但是,“泰迪”、“哈士奇”等常见的动物会大量存在,而像“藏獒”这种少见的动物相对出现较少,这样就会造成标注数据的不均衡。在使用不均衡的样本集训练模型时,由于少量样本在标注数据集中较少,因此,模型对少量样本的识别能力较差,获取少量样本的准确性较低。

发明内容

本申请实施例的目的在于提供一种样本获取方法、装置、电子设备及可读存储介质,以提高样本获取的准确性。具体技术方案如下:

根据本申请实施例的第一方面,本申请实施例提供了一种样本获取方法,所述方法包括:

根据预先建立的标签树,确定预设标签在所述标签树中的层级,所述标签树是对训练集中每个数据携带的标签进行分类得到的;

按照所述标签树从上到下的顺序,对样本集进行逐层筛选,使每一层的筛选结果作为下一层筛选的数据源,直至筛选的层级为所述预设标签在所述标签树中的层级;

在每一层筛选时,计算该层对应的训练数据的平均特征,根据所述平均特征在该层数据源中选取预设比例的数据,将所述预设比例的数据作为筛选结果,每层对应的训练数据是所述训练集中属于该层标签的数据;

获取所述预设标签在所述标签树中的层级对应的筛选结果。

可选的,所述标签树的建立方法包括:

针对所述训练集中的每个数据,按照该数据携带的标签所属的类别对该数据进行层级分类,得到该数据的层级标签,且所述层级标签中下一层标签属于上一层标签;

将所述训练集中所有数据的层级标签进行组合,得到所述标签树。

可选的,所述根据所述平均特征在该层数据源中选取预设比例的数据,包括:

提取该层数据源中每个数据的特征,计算每个数据的特征与所述平均特征的距离;

对得到的距离按照从小到大的顺序,在该层数据源中选取对应的数据,直至在该层数据源中选取的数据的比例达到所述预设比例。

可选的,所述计算该层对应的训练数据的平均特征,包括:

将该层对应的训练数据中的每个数据进行向量表示,得到每个数据的特征向量;

求解所述特征向量的平均值,得到该层对应的训练数据的平均特征向量。

下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。

该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京达佳互联信息技术有限公司,未经北京达佳互联信息技术有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服

本文链接:http://www.vipzhuanli.com/pat/books/201910171163.9/2.html,转载请声明来源钻瓜专利网。

×

专利文献下载

说明:

1、专利原文基于中国国家知识产权局专利说明书;

2、支持发明专利 、实用新型专利、外观设计专利(升级中);

3、专利数据每周两次同步更新,支持Adobe PDF格式;

4、内容包括专利技术的结构示意图流程工艺图技术构造图

5、已全新升级为极速版,下载速度显著提升!欢迎使用!

请您登陆后,进行下载,点击【登陆】 【注册】

关于我们 寻求报道 投稿须知 广告合作 版权声明 网站地图 友情链接 企业标识 联系我们

钻瓜专利网在线咨询

周一至周五 9:00-18:00

咨询在线客服咨询在线客服
tel code back_top