[发明专利]基于卷积神经网络的半监督迁移学习字符识别方法及系统有效
申请号: | 201711106410.4 | 申请日: | 2017-11-10 |
公开(公告)号: | CN107909101B | 公开(公告)日: | 2019-07-12 |
发明(设计)人: | 彭良瑞;汤野骏;刘长松 | 申请(专利权)人: | 清华大学 |
主分类号: | G06K9/62 | 分类号: | G06K9/62;G06K9/68;G06N3/04;G06N3/08 |
代理公司: | 北京路浩知识产权代理有限公司 11002 | 代理人: | 王莹;吴欢燕 |
地址: | 100084 北京市海*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 基于 卷积 神经网络 监督 迁移 学习 字符 识别 方法 系统 | ||
本发明提供基于卷积神经网络的半监督迁移学习字符识别方法,包括:将目标域中无类别标签的批量字符图像样本作为测试样本集输入半监督迁移学习后的卷积神经网络,识别所述测试样本集的字符图像;所述半监督迁移学习后的卷积神经网络由源域中有类别标签的批量字符图像样本、目标域中有类别标签的批量字符图像样本以及所述目标域中无类别标签的批量字符图像样本联合训练所得,提高了识别精度。本发明提供的基于卷积神经网络的半监督迁移学习字符识别方法及系统,能利用大量有类别标签的源域样本、少量有类别标签的目标域样本和较容易获得的无类别标签的目标域样本进行半监督迁移学习,提高了卷积神经网络对目标域样本的适应能力。
技术领域
本发明涉及信息处理技术领域,更具体地,涉及基于卷积神经网络的半监督迁移学习字符识别方法及系统。
背景技术
由于深度神经网络有较强的非线性描述能力,已在文字识别等方面取得了优于传统模式识别与机器学习方法的成效。但是,深度神经网络在应用中也存在一些问题。首先,深度神经网络由于结构复杂,参数较多,需要大量有类别标签的样本进行监督学习;另外,将深度神经网络用于具体文字识别或其他任务时,需要假设测试集和训练集的特征向量服从相同的统计分布,但在实际应用场景下,这样的假设难以成立。因此,如何有效提高深度神经网络对实际样本的适应能力成为一个关键问题。
例如,对于古籍汉字识别,获取大量人工标记的古籍汉字类别标签较为费时费力。而有类别标签的印刷体繁体汉字样本数量众多,但与古籍汉字有较大差异,一般称印刷体繁体汉字的数据集为源域,古籍汉字的数据集为目标域。传统迁移学习方法一般只利用目标域少量有类别标签的样本,通过将学习将目标域样本特征向量经过线性或非线性的映射转换到与源域样本特征向量分布相同的空间中,从而利用在源域上经监督学习得到的分类模型进行识别。
但是现有技术提供的迁移学习方法仅利用了目标域中有类别标签的样本进行监督学习,一方面由于目标域中有类别标签的样本数量太少,另一方面未能考虑到目标域中有类别标签的样本作为的训练集和目标域中无类别标签作为的测试集之间难以服从相同的统计分布,导致网络对样本的适应能力不高,从而影响识别精度。
发明内容
本发明提供一种克服上述问题或者至少部分地解决上述问题的一种基于卷积神经网络的半监督迁移学习字符识别方法及系统,所述方法包括:
基于卷积神经网络的半监督迁移学习字符识别方法,其特征在于,包括:
步骤1、将测试样本集输入半监督迁移学习后的卷积神经网络,识别所述测试样本集的字符图像;
所述半监督迁移学习后的卷积神经网络由源域中有类别标签的批量字符图像样本、目标域中有类别标签的批量字符图像样本以及所述目标域中无类别标签的批量字符图像样本联合训练所得。
其中,所述半监督迁移学习后的卷积神经网络由源域中有类别标签的批量字符图像样本、目标域中有类别标签的批量字符图像样本以及所述目标域中无类别标签的批量字符图像样本联合训练所得,包括:
将源域中有类别标签的批量字符图像样本作为第一训练集,对预设的卷积神经网络进行监督学习,得到第一识别模型;
将目标域中有类别标签的批量字符图像样本作为第二训练集,对所述第一识别模型进行监督迁移学习,得到第二识别模型;
在所述第二识别模型中添加无监督学习目标函数,并将所述无监督学习目标函数与所述第二识别模型中的监督学习目标函数结合,以构建第三识别模型;
将所述目标域中有类别标签的批量字符图像样本和所述目标域中无类别标签的批量字符图像样本作为第三训练集,对所述第三识别模型进行半监督迁移学习,以得到所述半监督迁移学习后的卷积神经网络。
其中,步骤1之前所述方法还包括:
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于清华大学,未经清华大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201711106410.4/2.html,转载请声明来源钻瓜专利网。
- 上一篇:确定距离的方法、装置、设备及存储介质
- 下一篇:车辆座椅滑动装置