[发明专利]基于迁移学习的模型构建方法、图像识别方法及其装置有效
申请号: | 201910656794.X | 申请日: | 2019-07-19 |
公开(公告)号: | CN110598727B | 公开(公告)日: | 2023-07-28 |
发明(设计)人: | 尉桦;邵新庆;刘强 | 申请(专利权)人: | 深圳力维智联技术有限公司;南京中兴力维软件有限公司 |
主分类号: | G06V10/774 | 分类号: | G06V10/774;G06V10/82;G06N3/0442;G06N3/0464;G06N3/096 |
代理公司: | 深圳鼎合诚知识产权代理有限公司 44281 | 代理人: | 彭家恩 |
地址: | 518057 广东省深圳市南*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 基于 迁移 学习 模型 构建 方法 图像 识别 及其 装置 | ||
基于迁移学习的模型构建方法、图像识别方法及其装置,该基于迁移学习的模型构建方法包括:利用第一训练集,通过深度神经网络训练得到第一学习模型;利用第二训练集对第一学习模型的各个网络层逐一进行参数微调,直至第一学习模型的损失函数的结果不再下降或者历遍所有的网络层,构建得到第二学习模型;组合第一训练集和第二训练集,通过第二学习模型训练得到第三学习模型;该第三学习模型用于对具有第一类特征和/或第二类特征的物体的图像进行特征信息提取。由于在构建模型时,不仅利用了第一训练集,还利用了第二训练集,如此使得构建的第二学习模型可以具备两个训练集的特征学习能力,而且能够达到较好的收敛效果。
技术领域
本发明涉及图像处理技术领域,具体涉及基于迁移学习的模型构建方法、图像识别方法及装置。
背景技术
近年来,深度学习越来越受到人们的关注,并已成功应用于众多领域中。深度学习算法可以从海量数据中学习高级特征,这使得深度学习具备超越传统机器学习的优势。
然而,数据依赖是深度学习中最严峻的问题之一。与传统的机器学习方法相比,深度学习极其依赖大规模训练数据,因为它需要大量数据去理解潜在的数据模式。由于大量的训练数据集的制作一般都有一定的局限性,而对于特定训练集的训练网络在相同任务下更换数据集后往往表现会有差异,比如针对人脸图像的数据集,亚洲人脸数据集和欧洲人脸数据集之间会存在差异,欧洲人脸数据集和非洲人脸数据集也会存在差异;因此,在单个数据集上训练得到的学习模型的普适性往往会受到制约。
当前,一种解决该问题的有效方法是迁移学习,但是在实际的神经网络训练过程中,往往由于不同数据集之间存在的过大差异,会引起一些很强波动的情况,并且使得学习模型难以收敛,致使利用同一学习模型只能对一些特征差异较小的物体进行识别,而不能对那些具有较大差异特征的物体进行识别,由此限制了学习模型的应用范围,最终导致物体识别的体验效果差。
发明内容
本发明主要解决的技术问题是如何提高现有图像识别模型的迁移学习能力,以增强物体识别的体验效果。
根据第一方面,一种实施例中提供一种基于迁移学习的模型构建方法,其特征在于,包括:
利用第一训练集,通过深度神经网络训练得到第一学习模型;所述第一训练集包括具有第一类特征的物体的多幅图像;
利用第二训练集,对所述第一学习模型的各个网络层逐一进行参数微调,直至所述第一学习模型的损失函数的结果不再下降或者历遍所有的网络层,构建得到第二学习模型;所述第二训练集包括具有第二类特征的物体的多幅图像;
组合所述第一训练集和所述第二训练集,通过所述第二学习模型训练得到第三学习模型;所述第三学习模型用于对具有第一类特征和/或第二类特征的物体的图像进行特征信息提取。
所述利用第二训练集,对所述第一学习模型的各个网络层逐一进行参数微调,直至所述第一学习模型的损失函数的结果不再下降或者历遍所有的网络层,构建得到第二学习模型,包括:选取所述第一学习模型中各个网络层的前k*m层,将所述第二训练集输入至所述前k*m层,微调所述前k*m层的参数,并且计算所述前k*m层对应的损失函数的结果,以进行一次迭代计算;其中m为大于1的正整数,k为迭代序号且k=1,2,3…;根据k的取值变化对所述前k*m层进行多次迭代计算,直至所述前k*m层对应的损失函数的结果不再下降或者历遍所有的网络层;利用最后一次迭代计算得到的所述第一学习模型的参数,构建得到第二学习模型。
在每次迭代计算时,计算所述前k*m层对应的损失函数的结果为:
计算迁移学习的损失量
lossexc=||NET(A)′layer(k*m)-NET(A)layer(k*m)||2
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于深圳力维智联技术有限公司;南京中兴力维软件有限公司,未经深圳力维智联技术有限公司;南京中兴力维软件有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201910656794.X/2.html,转载请声明来源钻瓜专利网。