[发明专利]识别模型的训练方法、字符识别方法、装置、设备和介质在审
申请号: | 202010672462.3 | 申请日: | 2020-07-14 |
公开(公告)号: | CN111898620A | 公开(公告)日: | 2020-11-06 |
发明(设计)人: | 冯晓锐 | 申请(专利权)人: | 上海眼控科技股份有限公司 |
主分类号: | G06K9/46 | 分类号: | G06K9/46;G06N3/04;G06N3/08 |
代理公司: | 广州华进联合专利商标代理有限公司 44224 | 代理人: | 周清华 |
地址: | 200030 上海市徐汇*** | 国省代码: | 上海;31 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 识别 模型 训练 方法 字符 装置 设备 介质 | ||
1.一种识别模型的训练方法,其特征在于,所述方法包括:
根据样本字符图像,采用第一教师网络对识别模型的初始特征提取网络进行训练,得到特征提取网络;
根据所述样本字符图像,采用第二教师网络对所述识别模型的初始时序网络进行训练,得到时序网络;其中,在所述初始时序网络的训练过程中所述特征提取网络的参数固定不变;
根据所述特征提取网络和所述时序网络,得到所述识别模型。
2.根据权利要求1所述的方法,其特征在于,所述根据样本字符图像,采用第一教师网络对识别模型的初始特征提取网络进行训练,得到特征提取网络,包括:
将所述样本字符图像输入所述第一教师网络的特征提取网络,通过所述第一教师网络的特征提取网络得到所述样本字符图像的第一特征图,将所述第一特征图输入所述第一教师网络的时序网络,得到第一识别结果;所述第一识别结果为所述第一教师网络对所述样本字符图像中字符的识别结果;
将所述样本字符图像输入所述初始特征提取网络,通过所述初始特征提取网络得到所述样本字符图像的第一样本特征图,将所述第一样本特征图输入所述初始时序网络,得到第一样本识别结果;
根据所述第一特征图、所述第一样本特征图和所述第一样本识别结果,得到所述初始特征提取网络的损失函数的值;
根据所述初始特征提取网络的损失函数的值,对所述初始特征提取网络进行训练,得到所述特征提取网络。
3.根据权利要求2所述的方法,其特征在于,所述初始特征提取网络的损失函数的计算公式为:L1=β*smoothL1loss+μCrossEntropy(y,pre),式中,L1表示初始特征提取网络的损失函数,β、μ均为参数,y表示所述样本字符图像对应的标准识别结果,pre表示所述第一样本识别结果,CrossEntropy表示交叉熵损失函数,smoothL1loss为根据所述第一特征图和所述第一样本特征图所得到的损失值。
4.根据权利要求1所述的方法,其特征在于,所述根据所述样本字符图像,采用第二教师网络对所述识别模型的初始时序网络进行训练,得到时序网络,包括:
将所述样本字符图像输入所述第二教师网络的特征提取网络,通过所述第二教师网络的特征提取网络得到所述样本字符图像的第二特征图,将所述第二特征图输入所述第二教师网络的时序网络,得到所述第二特征图的预测概率值,并根据所述第二特征图的预测概率值得到第二识别结果;所述第二识别结果为所述第二教师网络对所述样本字符图像中字符的识别结果;
将所述样本字符图像输入所述特征提取网络,通过所述特征提取网络得到所述样本字符图像的第二样本特征图,将所述第二样本特征图输入所述识别模型的初始时序网络,得到所述第二样本特征图的预测概率值,并根据所述第二样本特征图的预测概率值得到第二样本识别结果;
根据所述第二特征图的预测概率值、所述第二样本特征图的预测概率值、所述第二样本识别结果和所述样本字符图像对应的标准识别结果,得到所述初始时序网络的损失函数的值;
根据所述初始时序网络的损失函数的值,对所述初始时序网络进行训练,得到所述时序网络。
5.根据权利要求4所述的方法,其特征在于,所述初始时序网络的损失函数的计算公式为:式中,L2表示初始时序网络的损失函数,α表示权重,T表示温度,KLdiv表示KL散度,表示所述第二样本特征图的预测概率值,表示所述第二预测图的预测概率值,CrossEntropy表示交叉熵损失函数,QS表示所述第二样本识别结果,yture表示所述样本字符图像对应的标准识别结果。
6.根据权利要求1-5任一项所述的方法,其特征在于,所述第一教师网络的网络结构包括resnet50和双向长短期记忆网络;所述第二教师网络的网络结构包括resnet18和双向长短期记忆网络;所述识别模型的网络结构包括至少一个resblock网络和长短期记忆网络。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于上海眼控科技股份有限公司,未经上海眼控科技股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202010672462.3/1.html,转载请声明来源钻瓜专利网。
- 上一篇:一种微晶玻璃加石墨烯复合导电膜组成的加热体制备方法
- 下一篇:胶条上料组件