[发明专利]基于注意力机制与联结时间分类损失的文字识别方法在审
申请号: | 201811246139.9 | 申请日: | 2018-10-24 |
公开(公告)号: | CN109492679A | 公开(公告)日: | 2019-03-19 |
发明(设计)人: | 和文杰;潘勉 | 申请(专利权)人: | 杭州电子科技大学 |
主分类号: | G06K9/62 | 分类号: | G06K9/62;G06K9/34;G06N3/04 |
代理公司: | 杭州浙科专利事务所(普通合伙) 33213 | 代理人: | 吴秉中 |
地址: | 310018 浙*** | 国省代码: | 浙江;33 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 注意力机制 编码特征 时间分类 联结 文字识别 预处理 卷积神经网络 标签序列 采集数据 灰度转换 神经网络 双向循环 特征提取 图片样本 文本图像 语义向量 堆叠式 归一化 构建 权重 缩放 像素 嵌入 样本 尺度 填补 概率 预测 | ||
1.基于注意力机制与联结时间分类损失的文字识别方法,包括如下步骤:
S1:采集数据集:采集各种自然场景下的文本,并将这些文本合并;将数据集划分为训练数据集,验证数据集,测试数据集三部分;先将原始的数据集打乱,然后按比例进行切分,切分比例为7:2:1;训练数据集作为优化模型参数使用,验证数据集作为模型选择使用,测试数据集作为模型最终评估使用;
将挑选的数据集记作T={(x1,y1),(x2,y2),…,(xN,yN)},其中xi表示第i张图片,yi表示第i个图片对应的标签,N表示样本的总数;
S2:对图片样本进行尺度缩放,灰度转换和像素归一化等预处理;
S3:对样本的标签序列进行处理,包括填补,编码和词嵌入;
S4:构建卷积神经网络,对经过S3处理后的文本图像进行特征提取;
S5:使用堆叠式双向循环神经网络对S4提取的特征进行编码,得到编码特征;
S6:将S5得到的编码特征输入到联结时间分类模型中计算预测概率;
S7:使用注意力机制计算不同编码特征的权重,得到编码后的语义向量。
2.如权利要求1所述的基于注意力机制与联结时间分类损失的文字识别方法,其特征在于:所述步骤S2具体包括如下步骤:
S2.1:选取B个样本作为一个批次的训练数据β,其中β={x1,x2,…,xB};B个样本可能有不同的高和宽,样本维度为Shape={(h1,w1,3),(h2,w2,3),…,(hB,wB,3)};
将样本集β中每个样本进行等比例缩放,其中高固定为32个像素,得到新数据样本集,此时新样本的维度为
Shape={(32,w′1,3),(32,w′2,3),…,(32,w′B,3)};
获取新样本集中文本图片的最大宽度值wmax=max(w′1,w′2,…,w′B),其中max(·)表示其中元素的最大值;通过填补,镜像或者缩放等方法将新样本集中的宽度变换到最大的宽度,高固定为32,获得新的样本数据集β′,新样本集的维度为Shape={(32,wmax,3),(32,wmax,3),…,(32,wmax,3)};
S2.2:对β′中每一个样本进行灰度转换和像素归一化处理,步骤如下:
S2.2.1:对训练集T′中每张彩色图像进行灰度转换,变化公式如下:
x′gray=xr*0.299+xg*0.587+xb*0.114
其中,x为彩色图片样本,xr,xg,xb分别为样本的红色,绿色,蓝色通道的数值,xgray为变换后的灰色样本的像素值;
S2.2.2:对灰度转换后样本进行像素归一化,即将[0,255]的像素值转换到[-0.5,0.5];
其中,xgray为S3.1转换后得到的灰色图像,xnorm为像素归一化后的数值。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于杭州电子科技大学,未经杭州电子科技大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201811246139.9/1.html,转载请声明来源钻瓜专利网。