[发明专利]基于神经网络的模型快速升级方法及装置在审
申请号: | 201911313875.6 | 申请日: | 2019-12-19 |
公开(公告)号: | CN111062479A | 公开(公告)日: | 2020-04-24 |
发明(设计)人: | 张宇涵 | 申请(专利权)人: | 北京迈格威科技有限公司 |
主分类号: | G06N3/08 | 分类号: | G06N3/08 |
代理公司: | 北京隆源天恒知识产权代理事务所(普通合伙) 11473 | 代理人: | 陈雪飞 |
地址: | 100190 北京市海淀区科*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 基于 神经网络 模型 快速 升级 方法 装置 | ||
1.基于神经网络的模型快速升级方法,其特征在于,包括:
获取升级前的第一模型的原始特征;
将所述原始特征输入预先训练好的第三模型,得到所述第三模型的输出特征作为第二模型的升级后特征,所述第二模型是对所述第一模型升级后得到的模型。
2.根据权利要求1所述的基于神经网络的模型快速升级方法,其特征在于,对所述第三模型的预先训练包括:
将训练集图像输入所述第一模型,得到所述第一模型输出的第一特征;
将所述训练集图像输入所述第二模型,得到输出的第二特征;
将所述第一特征输入所述第三模型,得到输出的第三特征;
根据所述第二特征和所述第三特征确定所述第三模型的损失函数的值;
更新所述第三模型的参数,使得所述损失函数的值最小时,完成对所述第三模型的预先训练。
3.根据权利要求2所述的基于神经网络的模型训练方法,其特征在于,所述将所述第一特征输入所述第三模型,得到输出的第三特征包括:
将所述第一特征输入所述第三模型后得到与所述第二特征维度相同的向量;
将所述第一特征与所述向量相加后作为所述第三特征。
4.根据权利要求2所述的基于神经网络的模型训练方法,其特征在于,所述根据所述第二特征和所述第三特征确定损失函数的值包括:
确定所述训练集中同一图像对应的所述第二特征和所述第三特征的距离,所述距离包括欧几里得距离和/或曼哈顿距离;
将所述距离作为所述损失函数的值。
5.根据权利要求4所述的基于神经网络的模型训练方法,其特征在于,所述根据所述第二特征和所述第三特征确定损失函数的值还包括:
根据所述训练集中所有图像对应的所述第二特征和所述第三特征来确定三元组损失函数的值;
根据所述第三特征来确定其对应的分类损失函数的值;
根据所述三元组损失函数的值、所述分类损失函数的值和所述距离来确定所述损失函数的值。
6.根据权利要求1-5中任意一项所述的基于神经网络的模型训练方法,其特征在于,所述第三模型为神经网络模型,包括多层全连接层,其中,所述多层全连接层中第一层的维度大于所述第一特征的维度,所述多层全连接层中最后一层的维度与所述第二特征的维度相同。
7.根据权利要求6所述的基于神经网络的模型训练方法,其特征在于,所述多层全连接层的维度满足上采样增加所述维度以及下采样减小所述维度。
8.一种基于神经网络的模型快速升级装置,其特征在于,包括:
获取模块,用于获取升级前的第一模型的原始特征;
升级模块,用于将所述原始特征输入预先训练好的第三模型,得到所述第三模型的输出特征作为第二模型的升级后特征,所述第二模型是对所述第一模型升级后得到的模型。
9.一种非临时性计算机可读存储介质,其上存储有计算机程序,其特征在于,所述计算机程序被处理器执行时,实现根据权利要求1-7中任意一项所述的基于神经网络的模型快速升级方法。
10.一种计算设备,包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序,其特征在于,所述处理器执行所述程序时,实现根据权利要求1-7中任意一项所述的基于神经网络的模型快速升级方法。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京迈格威科技有限公司,未经北京迈格威科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201911313875.6/1.html,转载请声明来源钻瓜专利网。