[发明专利]基于深度学习注意力机制的文本实时定位识别方法

权利要求书

1.一种基于深度学习注意力机制的文本实时定位识别方法，包括以下步骤：

S1：搭建文本图像采集系统，收集训练样本并进行人工标注，建立OCR数据集；

S2：基于深度学习的方法，根据OCR数据集的特点，建立深度显著性注意力网络与深度卷积循环注意力模型；

其中，所述深度显著性注意力网络包括四个卷积单元、四个反卷积层，每个卷积单元包括一个卷积层与一个最大池化层，卷积层用于提取图像特征，最大池化层用于压缩无用信息；

S3：对所述OCR数据集进行预处理，利用预处理后的数据集训练所述深度显著性注意力网络，得到能够精确定位文本区域的深度显著性注意力网络；

S4：利用所述深度显著性注意力网络获取图片文本区域的热力图，将热力图与原图相乘，得到显著图；

S5：利用所述显著图训练所述深度卷积循环注意力模型，得到能够精确识别文本的深度卷积循环注意力模型，并对文本图像进行预测，从而实现对文本图像的实时定位识别。

2.根据权利要求1所述的基于深度学习注意力机制的文本实时定位识别方法，其特征在于，在步骤S1中，建立OCR数据集的具体步骤包括：

对于收集到的训练样本，删除无效图像，并进行人工标注，随机选取7-9万张图像作为测试集，剩余图像作为训练集，分别以端点坐标加文本内容的形式命名。

3.根据权利要求1所述的基于深度学习注意力机制的文本实时定位识别方法，其特征在于，步骤S4的具体过程如下：

S4.1：所述深度显著性注意力网络包括四个卷积单元、四个反卷积层，每个卷积单元包括一个卷积层与一个最大池化层，卷积层用于提取图像特征，最大池化层用于压缩无用信息；预处理后的图像经过四个卷积单元后被压缩到了原图的1/16大小，得到了包含丰富语义特征的特征图；

S4.2：通过四个反卷积层将特征图上采样16倍，再通过sigmoid激活函数来激活，将输入的值压缩到0-1区间，即有文字区域值为1，背景区域值为0，通过sigmoid激活函数得到了热力图；

S4.3：将热力图与原图相乘，得到显著图。

4.根据权利要求1或3所述的基于深度学习注意力机制的文本实时定位识别方法，其特征在于，所述深度显著性注意力网络中，四个卷积单元的卷积核数目依次为32、64、128、256，最大池化层的步长为2，反卷积核数目依次为256、128、64、1。

5.根据权利要求1所述的基于深度学习注意力机制的文本实时定位识别方法，其特征在于，所述深度卷积循环注意力模型包括五个卷积单元、一个长短期记忆网络LSTM，每个卷积单元包括一个卷积层和一个最大池化层；五个卷积单元的卷积核数目依次为32、64、128、256、512，最大池化层的步长为2。

6.根据权利要求5所述的基于深度学习注意力机制的文本实时定位识别方法，其特征在于，所述长短期记忆网络LSTM用于融合上下文信息，在每一时刻通过局部注意力机制聚焦不同区域得到分类结果；所述局部注意力机制为：

S_t＝f(S_t-1，y_t-1，c_t) (1)

e_tj＝g(S_t-1，h_j) (4)

其中α_t是t时刻的注意力向量，s_t-1是LSTM(t-1)时刻的状态向量，h是卷积层提取的高层语义特征，下标j表示j位置的局部特征，y_t-1是LSTM上一时刻的输出结果。

7.根据权利要求1所述的基于深度学习注意力机制的文本实时定位识别方法，其特征在于，在步骤S3和步骤S5中，训练方法采用随机梯度下降加动量的优化器，其参数更新规则为：

其中，v为相比于普通的随机梯度下降增加的速度向量，α为动量参数，ε为学习速率，为针对权重θ的微分，m为当前批次输入的样本图像数量，L(f(x⁽ⁱ⁾；θ)，y⁽ⁱ⁾)为损失函数，x⁽ⁱ⁾为针对权样本中的某个样例，y⁽ⁱ⁾为对应的标签。