[发明专利]基于难样本的训练方法、装置及电子设备有效
申请号: | 201810675642.X | 申请日: | 2018-06-26 |
公开(公告)号: | CN108960314B | 公开(公告)日: | 2022-02-11 |
发明(设计)人: | 朱星宇;黄鼎;张诚 | 申请(专利权)人: | 北京旷视科技有限公司;杭州旷云金智科技有限公司 |
主分类号: | G06K9/62 | 分类号: | G06K9/62 |
代理公司: | 北京超凡志成知识产权代理事务所(普通合伙) 11371 | 代理人: | 王术兰 |
地址: | 100096 北京市海淀区*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 基于 样本 训练 方法 装置 电子设备 | ||
1.一种基于难样本的训练方法,其特征在于,包括:
遍历步骤,利用预训练模型对公开数据集中的样本进行遍历识别分类,将被误识别为目标类的负类样本,添加至包括正类样本的第一数据集,形成第二数据集;所述公开数据集中的样本为图像;
训练步骤,基于所述第二数据集,利用预选代价函数和预先设定的难样本针对性代价函数对初始模型进行训练,得到输出模型;其中所述预选代价函数包括分类交叉熵函数;所述输出模型用于对输入图像进行分类识别;
其中,所述预先设定的难样本针对性代价函数用于:
在训练步骤中,分别获取初始模型识别出的每个负类样本属于各个目标类的概率;
根据每个负类样本属于各个目标类的概率、所述目标类的数量及第二数据集中负类的数量,计算所述难样本针对性代价函数的值;
所述难样本针对性代价函数为:
其中,f表示所述难样本针对性代价函数;m表示初始模型识别出的负类样本的数量;K表示所述目标类的数量;M表示第二数据集中负类的数量;xi1,xi2……xiK分别表示初始模型识别出的第i个负类样本属于各个目标类的概率,θ1,θ2……θK分别表示每个目标类的权重系数,所述权重系数小于等于1,且所述负类对应的目标类的权重系数大于对应的其他目标类的权重系数。
2.根据权利要求1所述的方法,其特征在于,所述遍历步骤之前,还包括:
初始步骤,基于由正类样本组成的第一数据集,对初始模型进行训练,得到预训练模型。
3.根据权利要求2所述的方法,其特征在于,所述训练步骤之后,还包括:
测试步骤,测试所述输出模型是否满足预期需求;
若否,则将所述输出模型作为新的预训练模型,将第二数据集作为新的第一数据集,并返回所述遍历步骤;
若是,则将所述输出模型作为最终模型进行输出。
4.根据权利要求1所述的方法,其特征在于,所述预选代价函数还包括焦点损失函数、对比损失函数、三元损失函数中的至少一种。
5.一种基于难样本的训练装置,其特征在于,包括:
遍历模块,用于利用预训练模型对公开数据集中的样本进行遍历识别分类,将被误识别为目标类的负类样本,添加至包括正类样本的第一数据集,形成第二数据集;所述公开数据集中的样本为图像;
训练模块,用于基于所述第二数据集,利用预选代价函数和预先设定的难样本针对性代价函数对初始模型进行训练,得到输出模型;其中所述预选代价函数包括分类交叉熵函数;所述输出模型用于对输入图像进行分类识别;
其中,所述预先设定的难样本针对性代价函数用于:在训练步骤中,分别获取初始模型识别出的每个负类样本属于各个目标类的概率;根据每个负类样本属于各个目标类的概率、所述目标类的数量及第二数据集中负类的数量,计算所述难样本针对性代价函数的值;
所述难样本针对性代价函数为:
其中,f表示所述难样本针对性代价函数;m表示初始模型识别出的负类样本的数量;K表示所述目标类的数量;M表示第二数据集中负类的数量;xi1,xi2……xiK分别表示初始模型识别出的第i个负类样本属于各个目标类的概率,θ1,θ2……θK分别表示每个目标类的权重系数,所述权重系数小于等于1,且所述负类对应的目标类的权重系数大于对应的其他目标类的权重系数。
6.根据权利要求5所述的装置,其特征在于,还包括:
初始模块,用于基于由正类样本组成的第一数据集,对初始模型进行训练,得到预训练模型。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京旷视科技有限公司;杭州旷云金智科技有限公司,未经北京旷视科技有限公司;杭州旷云金智科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201810675642.X/1.html,转载请声明来源钻瓜专利网。