[发明专利]基于难样本的训练方法、装置及电子设备有效
申请号: | 201810675642.X | 申请日: | 2018-06-26 |
公开(公告)号: | CN108960314B | 公开(公告)日: | 2022-02-11 |
发明(设计)人: | 朱星宇;黄鼎;张诚 | 申请(专利权)人: | 北京旷视科技有限公司;杭州旷云金智科技有限公司 |
主分类号: | G06K9/62 | 分类号: | G06K9/62 |
代理公司: | 北京超凡志成知识产权代理事务所(普通合伙) 11371 | 代理人: | 王术兰 |
地址: | 100096 北京市海淀区*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 基于 样本 训练 方法 装置 电子设备 | ||
本发明提供了一种基于难样本的训练方法、装置及电子设备,该方法首先利用预训练模型对公开数据集中的样本进行遍历识别,获得被误识别为目标类的负类样本,将该负类样本添加至包括正类样本的第一数据集中,形成第二数据集;然后基于该第二数据集,利用预选代价函数和预先设定的难样本针对性代价函数对初始模型进行训练,得到输出模型。该方式将从公开数据集中挑选出的负类样本,加入后续用于训练的数据集中,然后利用预先设定的难样本针对性代价函数,基于该包含负类样本的数据集进行模型训练,从而加强对易识别为FP的难样本的识别学习,在不增加模型输出类别的情况下,有效抑制FP的同时,提升模型的识别准确率,改善用户的使用体验。
技术领域
本发明涉及图像处理技术领域,尤其是涉及一种基于难样本的训练方法、装置及电子设备。
背景技术
随着智能手机相机功能的推广,移动设备并行计算硬件效能大幅进步,人们的物质与精神生活需求的逐渐提高,人工智能与计算机视觉技术在智能手机相机中的应用的市场越来越大。其中基于场景/物体识别的自动后处理技术已经成为了各大手机厂商所需要的技术,与之对应的算法也成为了研究热点。由于上述算法需要在移动终端上部署,在保证一定准确率的同时,这种算法也需要尽量减少参数和计算量,以达到一个较低的能耗。
目前市场上存在的算法为了压缩计算量,往往使用的是减少类别数的方法。而单纯减少类别数往往会导致有很多物体或者场景并没有出现在网络训练集中,使得神经网络在真实使用时往往会将某些不属于网络训练集中已有类别的物体或场景分进某个类中,产生FP(False Positive,假阳性),例如将远处拍摄的黄色射灯识别为日出,或者将白色水泥地识别为雪景等。
综上,目前市场上在移动终端部署的识别算法往往都存在较多的FP,识别能力下降,严重影响实际的使用体验。
发明内容
有鉴于此,本发明的目的在于提供一种基于难样本的训练方法、装置及电子设备,以在有效抑制FP的同时,提升模型的识别准确率,改善用户的使用体验。
第一方面,本发明实施例提供了一种基于难样本的训练方法,包括:
遍历步骤,利用预训练模型对公开数据集中的样本进行遍历识别,将被误识别为目标类的负类样本,添加至包括正类样本的第一数据集,形成第二数据集;
训练步骤,基于所述第二数据集,利用预选代价函数和预先设定的难样本针对性代价函数对初始模型进行训练,得到输出模型;其中所述预选代价函数包括分类交叉熵函数。
结合第一方面,本发明实施例提供了第一方面的第一种可能的实施方式,其中,所述遍历步骤之前,还包括:
初始步骤,基于由正类样本组成的第一数据集,对初始模型进行训练,得到预训练模型。
结合第一方面的第一种可能的实施方式,本发明实施例提供了第一方面的第二种可能的实施方式,其中,所述训练步骤之后,还包括:
测试步骤,测试所述输出模型是否满足预期需求;
若否,则将所述输出模型作为新的预训练模型,将第二数据集作为新的第一数据集,并返回所述遍历步骤;
若是,则将所述输出模型作为最终模型进行输出。
结合第一方面其第一种、第二种中任一种可能的实施方式,本发明实施例提供了第一方面的第三种可能的实施方式,其中,所述预先设定的难样本针对性代价函数用于:
在训练步骤中,分别获取初始模型识别出的每个负类样本属于各个目标类的概率;
根据每个负类样本属于各个目标类的概率、所述目标类的数量及第二数据集中负类的数量,计算所述难样本针对性代价函数的值。
结合第一方面的第三种可能的实施方式,本发明实施例提供了第一方面的第四种可能的实施方式,其中,所述难样本针对性代价函数为:
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京旷视科技有限公司;杭州旷云金智科技有限公司,未经北京旷视科技有限公司;杭州旷云金智科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201810675642.X/2.html,转载请声明来源钻瓜专利网。