[发明专利]预测模型的训练方法、装置、设备及存储介质在审
申请号: | 202210950841.3 | 申请日: | 2022-08-09 |
公开(公告)号: | CN115293271A | 公开(公告)日: | 2022-11-04 |
发明(设计)人: | 谢国平 | 申请(专利权)人: | 青牛智胜(深圳)科技有限公司 |
主分类号: | G06K9/62 | 分类号: | G06K9/62;G06N3/08 |
代理公司: | 深圳国新南方知识产权代理有限公司 44374 | 代理人: | 周雷 |
地址: | 518000 广东省深圳市南山区粤海街道高*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 预测 模型 训练 方法 装置 设备 存储 介质 | ||
本发明公开了一种预测模型的训练方法,包括:获取第一训练样本集以及基于第一训练集训练得到的第一预测模型;获取待预测样本,采用第一预测模型对待预测样本进行预测,根据预测结果的预测概率将待预测样本划分为第一样本集和第二样本集;基于多个不同的第二预测模型对待预测样本进行预测,从而选取出第三样本集;合并第一样本集和第三样本集,合并后的样本与第一训练样本集的样本进行相似度计算,得到目标样本集;对目标样本集的各样本进行标注处理,得到第三训练样本集;对第二样本集进行机器标注处理,获得第二训练样本集;将第一训练样本集、第二训练样本集以及第三训练样本集进行合并,并对第一预测模型进行训练,得到目标预测模型。
技术领域
本发明涉及主动学习领域,特别是涉及一种预测模型的训练方法、装置、设备及存储介质。
背景技术
主动学习是缺少人工标注样本场景下常用的构建样本的有效手段,它从样本预测的不确定性角度出发,把模型拿不准、认为比较“难”的样本让人去标注,可以大幅提升样本的标注效率和人工标注的成本。将人工标注的样本加入样本集中进行训练,能提高模型的准确性。
现有技术方法也针对主动学习的不确定性原则做了一些优化,如通过不同策略筛选不同标准下的“难”样本用于后续的人工标注,但这些方法没有利用开源预训练模型的差异性,并仍是局限于不确定原则本身做的改进。如果仅考虑不确定性原则,可能筛选出来的样本会集中在某一类,存在数据不平衡和多样性的问题。
基于此,本领域亟需一种新的预测模型的训练方法、装置、设备及存储介质来解决上述存在的技术问题。
发明内容
本发明提供一种预测模型的训练方法、装置、设备及存储介质,能够保证筛选出来以用于后续人工标注的样本更加均衡。
为解决上述技术问题,本发明采用的一个技术方案是:提供一种预测模型的训练方法,包括:
获取第一训练样本集以及基于所述第一训练集训练得到的第一预测模型;
获取待预测样本,采用所述第一预测模型对所述待预测样本进行预测,得到第一预测结果,所述第一预测结果包括第一类别标签和对应的预测概率,根据所述预测概率将所述待预测样本划分为第一样本集和第二样本集;
基于多个不同的第二预测模型对所述待预测样本进行预测,得到第二预测结果,根据所述第二预测结果从所述待预测样本中选取第三样本集;
合并所述第一样本集和所述第三样本集得到合并样本集,将所述合并样本集与所述第一训练样本集的样本进行相似度计算,根据相似度计算结果得到目标样本集;
对所述目标样本集的各样本进行标注处理,得到第三训练样本集;
根据所述第二样本集的所述第一类别标签对所述第二样本集进行机器标注处理,获得第二训练样本集;
将所述第一训练样本集、所述第二训练样本集以及所述第三训练样本集进行合并处理,获得目标训练样本集;
采用所述目标训练样本集对所述第一预测模型进行训练,得到目标预测模型。
优选地,所述合并所述第一样本集和所述第三样本集得到合并样本集,将所述合并样本集与所述第一训练样本集的样本进行相似度计算,根据相似度计算结果得到目标样本集包括:
合并所述第一样本集和所述第三样本集得到合并样本集;
将所述第一训练样本集的各样本表征为第一语义向量,将所述合并样本集的各样本表征为第二语义向量;
对所述第一语义向量和所述第二语义向量进行归一化处理;
计算归一化处理后的所述第二语义向量与所述第一语义向量之间的相似度;
根据相似度计算结果从所述合并样本集中选取相似度低于预设阈值的样本,得到所述目标样本集。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于青牛智胜(深圳)科技有限公司,未经青牛智胜(深圳)科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202210950841.3/2.html,转载请声明来源钻瓜专利网。