[发明专利]文本识别模型训练方法、文本识别方法、装置及电子设备有效
申请号: | 202111560609.0 | 申请日: | 2021-12-20 |
公开(公告)号: | CN113963358B | 公开(公告)日: | 2022-03-04 |
发明(设计)人: | 刘军;秦勇 | 申请(专利权)人: | 北京易真学思教育科技有限公司 |
主分类号: | G06F40/295 | 分类号: | G06F40/295;G06V30/19;G06V30/41;G06K9/62;G06N3/04;G06N3/08 |
代理公司: | 北京北汇律师事务所 11711 | 代理人: | 李英杰 |
地址: | 102200 北京市昌平区未*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 文本 识别 模型 训练 方法 装置 电子设备 | ||
1.一种文本识别模型训练方法,其特征在于,包括:
获取训练数据集,所述训练数据集中包括多张文本图像,以及所述多张文本图像中每张文本图像的字符标注信息,所述字符标注信息包括整体字符信息、分词结果和实体标注信息;
构建初始文本识别模型,所述初始文本识别模型包括第一卷积神经网络、第一循环神经网络、第二循环神经网络和编解码网络;
针对所述训练数据集中的每张第一文本图像,将所述第一文本图像输入所述第一卷积神经网络,以供所述第一卷积神经网络输出所述第一文本图像的第一特征序列至所述第一循环神经网络和所述第二循环神经网络,并通过所述第一循环神经网络输出所述第一特征序列的第一特征向量标签分布,以及通过所述第二循环神经网络输出第一预测结果,且由所述编解码网络根据所述第一特征向量标签分布和所述第一预测结果输出所述第一文本图像中字符序列的第一文本识别结果,所述第一预测结果为所述第一文本图像中字符序列的分词结果和实体标注信息的预测结果;
在每获得一次所述第一文本识别结果之后,根据所述第一文本识别结果,以及所述第一文本识别结果所对应的第一文本图像的整体字符信息,对所述第一卷积神经网络、所述第一循环神经网络、所述第二循环神经网络和所述编解码网络进行训练,获得目标文本识别模型。
2.根据权利要求1所述的文本识别模型训练方法,其特征在于,所述构建初始文本识别模型,包括:
构建初始文本处理模型,所述初始文本处理模型包括所述第一卷积神经网络、所述第一循环神经网络和所述第二循环神经网络;
针对所述训练数据集中的每张第二文本图像,将所述第二文本图像输入所述第一卷积神经网络,以供所述第一卷积神经网络输出所述第二文本图像的第二特征序列至所述第一循环神经网络和所述第二循环神经网络,并通过所述第一循环神经网络输出所述第二特征序列的第二特征向量标签分布,以及通过所述第二循环神经网络输出第二预测结果,所述第二预测结果为所述第二文本图像中字符序列的分词结果和实体标注信息的预测结果;
在每获得一次所述第二特征向量标签分布之后,根据所述第二特征向量标签分布,以及所述第二特征向量标签分布所对应的第二文本图像的整体字符信息,对所述第一卷积神经网络和所述第一循环神经网络进行训练;
在每获得一次所述第二预测结果之后,根据所述第二预测结果,以及所述第二预测结果所对应的第二文本图像的分词结果和实体标注信息,对所述第一卷积神经网络和所述第二循环神经网络进行训练;
通过所述编解码网络,以及训练之后的所述第一卷积神经网络、所述第一循环神经网络和所述第二循环神经网络构建所述初始文本识别模型。
3.根据权利要求2所述的文本识别模型训练方法,其特征在于,所述构建初始文本识别模型之前,所述文本识别模型训练方法还包括:
构建命名实体识别模型,所述命名实体识别模型包括所述第一卷积神经网络和所述第二循环神经网络;
针对所述训练数据集中的每张第三文本图像,将所述第三文本图像输入所述第一卷积神经网络,以供所述第一卷积神经网络输出所述第三文本图像的第三特征序列至所述第二循环神经网络,并通过所述第二循环神经网络输出第三预测结果,所述第三预测结果为所述第三文本图像中字符序列的分词结果和实体标注信息的预测结果;
在每获得一次所述第三预测结果之后,根据所述第三预测结果,以及所述第三预测结果所对应的第三文本图像的分词结果和实体标注信息,对所述第一卷积神经网络和所述第二循环神经网络进行训练。
4.根据权利要求3所述的文本识别模型训练方法,其特征在于,所述构建命名实体识别模型之前,所述文本识别模型训练方法还包括:
构建第一卷积循环神经网络,所述第一卷积循环神经网络包括所述第一卷积神经网络和第三循环神经网络;
针对所述训练数据集中的每张第四文本图像,将所述第四文本图像输入所述第一卷积神经网络,以供所述第一卷积神经网络输出所述第四文本图像的第四特征序列至所述第三循环神经网络,并通过所述第三循环神经网络输出所述第四特征序列的第三特征向量标签分布;
在每获得一次所述第三特征向量标签分布之后,根据所述第三特征向量标签分布,以及所述第三特征向量标签分布所对应的第四文本图像的整体字符信息,对所述第一卷积神经网络和所述第三循环神经网络进行训练。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京易真学思教育科技有限公司,未经北京易真学思教育科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202111560609.0/1.html,转载请声明来源钻瓜专利网。