[发明专利]扩展数据集以及预测待分类对象的类别的方法在审
申请号: | 202210481567.X | 申请日: | 2022-05-05 |
公开(公告)号: | CN114970683A | 公开(公告)日: | 2022-08-30 |
发明(设计)人: | 凌悦 | 申请(专利权)人: | 胜斗士(上海)科技技术发展有限公司 |
主分类号: | G06K9/62 | 分类号: | G06K9/62 |
代理公司: | 北京市中咨律师事务所 11247 | 代理人: | 魏子翔;于静 |
地址: | 200120 上海市*** | 国省代码: | 上海;31 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 扩展 数据 以及 预测 分类 对象 类别 方法 | ||
本申请提出扩展训练数据集,使用扩展训练数据集训练的分类模型进行分类的方法。扩展训练数据集的方法包括基于原始数据和辅助数据生成合并数据,辅助数据与分类模型的应用场景相关联并且来自与原始数据的来源不同的来源;以及使用分类模型更新合并数据的类别以生成用于训练分类模型的第一扩展数据集。本申请的方案可以扩充标注数据样本的数量以及提高数据的标注准确度,使得所训练的分类模型的分类性能得到优化。
技术领域
本申请涉及数据处理,特别涉及扩展训练数据集,基于扩展数据集训练的分类模型进行对象分类的方法、设备和计算机存储介质。
背景技术
在使用诸如神经网络模型的分类模型预测对象类别的任务中,需要使用经标注的数据构成训练数据集对分类模型进行训练。因此,训练数据集的数据量和标注准确度是影响模型性能的重要因素之一。
训练数据集中的数据通常来自分类任务的应用场景中待分类对象的历史数据样本。但是,仅使用待分类对象的经标注的历史数据可能存在提取用于确定模型参数的信息量不够的问题。此外,待分类对象所具有的类别(也可以称为标签)包括长尾标签类型时,历史数据样本的数据量不均衡情况将使用于训练分类模型的历史数据样本不足以覆盖所有的长尾标签类型。
因此,存在对训练数据集的数据进行扩展以提高分类模型训练效果,进而改善分类模型的分类性能的需求。
发明内容
鉴于上文中提及的待解决问题和缺陷,本申请的实施例提出用于扩展训练数据集的方法,基于扩展的数据集训练的分类模型对待分类对象进行分类的方法及其设备和计算机存储介质。
根据本申请的一方面,提出一种用于扩展训练数据集的方法,该训练数据集包括多个原始数据,该方法包括:
基于原始数据和辅助数据生成合并数据,辅助数据与分类模型的应用场景相关联并且来自与原始数据的来源不同的来源;
使用分类模型更新合并数据的类别以生成用于训练分类模型的第一扩展数据集。
根据本申请的实施例,使用分类模型更新合并数据的类别以生成用于训练分类模型的第一扩展数据集包括如下步骤:
将合并数据划分为具有不同的合并数据的第一合并数据子集和第二合并数据子集;
使用第一合并数据子集训练分类模型的原始分类模型以获得第一分类模型;
使用第一分类模型确定的第二合并数据子集中的合并数据的预测类别来更新第二合并数据子集中的合并数据的类别;
基于第一合并数据子集和经更新的第二合并数据子集生成第一扩展数据集,其中第一扩展数据集包括具有更新的类别的合并数据。
根据本申请的另一方面,提出一种用于预测待分类对象的类别的方法,包括:获取待分类对象;使用如上所述的方法训练的第二分类模型预测待分类对象的类别。
根据本申请的又一方面,提出一种计算机可读存储介质,其上存储有计算机程序,该计算机程序包括可执行指令,当该可执行指令被处理器执行时,实现如上所述的方法。
根据本申请的再一方面,提出一种电子设备,包括处理器以及用于存储所述处理器的可执行指令的存储器,其中,处理器被配置为执行可执行指令以实现如上所述的方法。
通过引入与分类模型的应用场景相关联的第三方辅助数据对训练数据集进行扩展,训练数据集可以包含更多与分类任务(特别是多标签分类任务)相关的信息。经过诸如来自业务执行方的业务处理日志或来自业务反馈方的反馈信息的第三方辅助信息对原始数据的标注类别的清洗和更新,可以扩充标注数据样本的数量以及提高数据的标注准确度,使得所训练的分类模型的分类性能得到优化。进一步补充长尾标签类别信息的扩展数据集还可以有效缓解原始数据不均衡的情况,提高分类模型针对具有长尾标签类别的待分类对象的分类性能。
附图说明
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于胜斗士(上海)科技技术发展有限公司,未经胜斗士(上海)科技技术发展有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202210481567.X/2.html,转载请声明来源钻瓜专利网。
- 数据显示系统、数据中继设备、数据中继方法、数据系统、接收设备和数据读取方法
- 数据记录方法、数据记录装置、数据记录媒体、数据重播方法和数据重播装置
- 数据发送方法、数据发送系统、数据发送装置以及数据结构
- 数据显示系统、数据中继设备、数据中继方法及数据系统
- 数据嵌入装置、数据嵌入方法、数据提取装置及数据提取方法
- 数据管理装置、数据编辑装置、数据阅览装置、数据管理方法、数据编辑方法以及数据阅览方法
- 数据发送和数据接收设备、数据发送和数据接收方法
- 数据发送装置、数据接收装置、数据收发系统、数据发送方法、数据接收方法和数据收发方法
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置