[发明专利]神经网络模型的训练方法、图像特征提取方法及相关装置在审
申请号: | 202110970481.9 | 申请日: | 2021-08-23 |
公开(公告)号: | CN113657411A | 公开(公告)日: | 2021-11-16 |
发明(设计)人: | 朱文涛;尚航;吕廷迅;杨森;刘霁 | 申请(专利权)人: | 北京达佳互联信息技术有限公司 |
主分类号: | G06K9/46 | 分类号: | G06K9/46;G06K9/62;G06N3/04;G06N3/08 |
代理公司: | 北京同达信恒知识产权代理有限公司 11291 | 代理人: | 王英 |
地址: | 100085 北京市海淀*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 神经网络 模型 训练 方法 图像 特征 提取 相关 装置 | ||
1.一种基于对比学习的神经网络模型训练方法,其特征在于,所述神经网络模型用于提取图像特征,所述方法包括:
提取正样本对和困难负样本对,其中,正样本对包括第一图像和第二图像,所述第二图像为对所述第一图像经过数据扩增处理之后得到的,困难负样本对包括第三图像和第四图像,且所述第三图像和所述第四图像之间的差异度小于指定差异度;
基于所述正样本对和所述困难负样本对,采用对比学习方法训练所述神经网络模型。
2.根据权利要求1所述的方法,其特征在于,基于所述正样本对和所述困难负样本对,采用对比学习方法训练所述神经网络模型,包括:
将所述正样本对和所述困难负样本对分别输入所述神经网络模型,得到所述神经网络模型提取的所述第一图像、所述第二图像、所述第三图像和所述第四图像各自的图像特征;
基于所述第一图像的图像特征和所述第二图像的图像特征,确定所述第一图像和所述第二图像之间的差异度作为正样本损失,并基于所述第三图像的图像特征和所述第四图像的图像特征,确定所述第三图像和所述第四图像之间的差异度作为负样本损失;
基于所述正样本损失和所述负样本损失,确定所述神经网络模型的总损失;
基于所述神经网络模型的总损失,更新所述神经网络模型的模型参数。
3.根据权利要求2所述的方法,其特征在于,同一训练批次包括多个正样本对和多个困难负样本对,所述基于所述正样本损失和所述负样本损失,确定所述神经网络模型的总损失,包括:
获取所述同一训练批次中正样本对的正样本损失,以及所述同一训练批次中困难负样本对的负样本损失;
基于同一训练批次中正样本对的正样本损失确定正样本总损失,基于同一训练批次中困难负样本对的负样本损失确定负样本总损失;
将所述正样本总损失和所述负样本总损失进行加权求和,得到所述神经网络模型的总损失,其中,正样本总损失的权重为正数,负样本总损失的权重为负数。
4.根据权利要求1所述的方法,其特征在于,所述神经网络模型包括老师网络和学生网络,其中正样本对中的两张图像分别输入给老师网络和学生网络,困难负样本对中的两张图像分别输入给老师网络和学生网络,其中,老师网络用于处理第二图像和第三图像,学生网络用于处理第一图像和第四图像。
5.根据权利要求4所述的方法,其特征在于,所述提取困难负样本对,包括:
采用老师网络提取所述第三图像的图像特征;并,采用学生网络提取所述第四图像的图像特征;
基于所述第三图像的图像特征和所述第四图像的图像特征确定所述第三图像和所述第四图像之间的差异度;
若所述差异度小于所述指定差异度,则采用所述第三图像和所述第四图像构建所述困难负样本对。
6.一种图像特征提取方法,其特征在于,所述方法包括:
获取待处理图像;
将所述待处理图像输入至如权利要求1-5中的任一所述神经网络模型,得到所述待处理图像的图像特征。
7.一种基于对比学习的神经网络模型训练装置,其特征在于,所述神经网络模型用于提取图像特征,所述装置包括:
样本对挖掘模块,被配置为执行提取正样本对和困难负样本对,其中,正样本对包括第一图像和第二图像,所述第二图像为对所述第一图像经过数据扩增处理之后得到的,困难负样本对包括第三图像和第四图像,且所述第三图像和所述第四图像之间的差异度小于指定差异度;
学习模块,被配置为执行基于所述正样本对和所述困难负样本对,采用对比学习方法训练所述神经网络模型。
8.一种电子设备,其特征在于,包括:
处理器;
用于存储所述处理器可执行指令的存储器;
其中,所述处理器被配置为执行所述指令,以实现如权利要求1-6中任一项所述的方法。
9.一种计算机可读存储介质,其特征在于,当所述计算机可读存储介质中的指令由电子设备的处理器执行时,使得所述电子设备能够执行如权利要求1-6中任一项所述的方法。
10.一种计算机程序产品,包括计算机程序,其特征在于,所述计算机程序被处理器执行时实现权利要求1-6中任一项所述的方法。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京达佳互联信息技术有限公司,未经北京达佳互联信息技术有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202110970481.9/1.html,转载请声明来源钻瓜专利网。
- 上一篇:穿刺刀头、穿刺装置以及活检系统
- 下一篇:一种自适应阈值的细胞图像分割方法