[发明专利]文字识别方法、装置、终端及其计算机存储介质在审
申请号: | 201911253120.1 | 申请日: | 2019-12-09 |
公开(公告)号: | CN113033249A | 公开(公告)日: | 2021-06-25 |
发明(设计)人: | 白翔;王勃飞;徐清泉;许永超;刘少丽 | 申请(专利权)人: | 中兴通讯股份有限公司;华中科技大学 |
主分类号: | G06K9/00 | 分类号: | G06K9/00;G06K9/42;G06K9/62 |
代理公司: | 广州嘉权专利商标事务所有限公司 44205 | 代理人: | 梁嘉琦 |
地址: | 518057 广东省深圳市*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 文字 识别 方法 装置 终端 及其 计算机 存储 介质 | ||
1.一种文字识别网络模型训练方法,其特征在于,包括以下步骤:
将原始数据集中的每张图片进行标准化,并对每张图片进行字符类别标注,得到带字符类别标注的标准训练数据集;
将所述标准训练数据集中的每张图片输入卷积神经网络,提取图片的卷积特征,得到包含所述卷积特征的深度特征图;
将所述深度特征图输入具有多个通道的注意力机制模块,得到每个通道的注意力权重,使用所述注意力权重重新对所述深度特征图的每个通道进行缩放获得多个注意力特征图;
将每一个所述注意力特征图分别输入全连接层,得到多个注意力特征向量;
将多个所述注意力特征向量进行特征融合,输入到字符类全连接层进行字符类别预测;
根据所述字符类别预测的结果和所述字符类别标注,设计目标损失函数,利用反向传播算法进行迭代,最小化所述目标损失函数,优化所述注意力权重。
2.根据权利要求1所述的一种文字识别网络模型训练方法,其特征在于,所述将原始数据集中的每张图片进行标准化,包括:
统计所述原始数据集中每张图片Ii(i=1,···,N)的均值和方差,将每张图片的高度和宽度缩放到预设高度H和预设宽度W,其中N为所述原始数据集中的图片数量。
3.根据权利要求2所述的一种文字识别网络模型训练方法,其特征在于,所述卷积神经网络包括若干卷积层和若干卷积模块;
所述将所述标准训练数据集中的每张图片输入卷积神经网络,提取图片的卷积特征,得到包含所述卷积特征的深度特征图,包括:
将标准化的图片Ii(i=1,···,N)分别输入若干卷积层中,每个卷积层后均接一个批归一化层和非线性激活函数ReLU,然后输入到最大池化层进行采样,再输入到若干所述卷积模块中,每个卷积模块由若干数量相同的卷积层和批归一化层构成,每个批归一化层均跟在每个卷积层之后,每个卷积模块之间用最大池化层相连接,最后一个所述卷积模块输出包含卷积特征的深度特征图Xi。
4.根据权利要求1或3所述的一种文字识别网络模型训练方法,其特征在于,所述注意力权重通过以下步骤获得:
所述注意力机制模块使用全局平均池化在空间维度上汇集输入的所述深度特征图以生成通道描述子,使用带有Sigmoid激活的门控机制处理所述通道描述子得到每个通道的注意力权重。
5.根据权利要求3所述的一种文字识别网络模型训练方法,其特征在于,所述将所述深度特征图输入具有多个通道的注意力机制模块,得到每个通道的注意力权重,使用所述注意力权重重新对所述深度特征图的每个通道进行缩放获得多个注意力特征图,包括:
所述注意力机制模块使用全局平化池在H×W的空间维度上汇集输入的所述深度特征图Xi,以生成通道描述子zs=[z1,…,zC],其中zs的第c个元素zc的计算方法是:
其中s=1,···,S,S为注意力机制模块的数量;
其中c=1,···,C,C为通道数量;
在zs上使用带有Sigmoid激活的门控机制,处理所述通道描述子,得到每个所述注意力机制模块的注意力权重:
其中,σ为Sigmoid函数,δ为ReLU函数,r为通道压缩比率;
每个所述注意力机制模块使用所述注意力权重重新对所述深度特征图Xi的每个通道进行缩放获得多个注意力特征图
其中表示标准化的图片Ii对应的所述注意力特征图的第c个通道和标量之间的乘积。
6.根据权利要求5所述的一种文字识别网络模型训练方法,其特征在于,所述将每一个所述注意力特征图分别输入全连接层,得到多个注意力特征向量,包括:
将多个所述注意力特征图分别输入到全连接层:
其中运算符Fflatt(·)将矩阵平铺为1维向量。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于中兴通讯股份有限公司;华中科技大学,未经中兴通讯股份有限公司;华中科技大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201911253120.1/1.html,转载请声明来源钻瓜专利网。
- 上一篇:模板创建方法、文件生成方法、装置及计算机设备
- 下一篇:电子设备