[发明专利]文本识别方法、装置、电子设备及存储介质有效
申请号: | 201910600211.1 | 申请日: | 2019-07-04 |
公开(公告)号: | CN110717328B | 公开(公告)日: | 2021-06-18 |
发明(设计)人: | 刘春 | 申请(专利权)人: | 北京达佳互联信息技术有限公司 |
主分类号: | G06F40/279 | 分类号: | G06F40/279;G06F16/35 |
代理公司: | 北京润泽恒知识产权代理有限公司 11319 | 代理人: | 李娜 |
地址: | 100085 北京市海淀*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 文本 识别 方法 装置 电子设备 存储 介质 | ||
1.一种文本识别方法,其特征在于,所述方法包括:
获取待识别文本的基本特征集合,其中,所述基本特征集合为所述待识别文本所包含的文字和各预定类型符号的长度和占比特征的集合;
生成与所述待识别文本对应的文字文本,其中,所述文字文本为包含所述待识别文本的文字、且不包含各预定类型符号的文本;
分别从所述待识别文本和所述文字文本中提取连续重复子序列特征,其中,所述连续重复子序列特征用于表征相应文本中文字和各预定类型符号重复出现的信息;
基于所述连续重复子序列特征和所述基本特征集合进行特征聚类,得到聚类结果,并基于所述聚类结果检测所述待识别文本是否为包含重复序列的文本;
其中,所述分别从所述待识别文本和所述文字文本中提取连续重复子序列特征的步骤,包括:
分别生成所述待识别文本和所述文字文本的字符序列;
当字符序列中存在连续的两个目标子序列之间长度和相似度均满足预设条件时,确定所述目标子序列为相应文本的连续重复相似子序列;
将相应文本中重复次数最大的连续重复相似子序列的重复次数、长度以及在相应文本中的占比,确定为相应文本的连续重复子序列特征。
2.根据权利要求1所述的文本识别方法,其特征在于,所述获取待识别文本的基本特征集合的步骤,包括:
计算所述待识别文本所包含的文字文本的长度以及连续特殊符号序列的最大长度,其中,所述连续特殊符号序列是由连续的特殊符号组成的序列,所述特殊符号为所述待识别文本中除汉字、字母和表情符号之外的符号;
根据所述文字文本的长度以及所述待识别文本的长度,计算所述待识别文本所包含文字文本的第一占比;
根据所述连续特殊符号序列的最大长度以及所述待识别文本的长度,计算所述连续特殊符号序列的第二占比;
将所述文字文本的长度、所述连续特殊符号序列的最大长度、所述第一占比以及所述第二占比确定为所述基本特征集合的元素。
3.根据权利要求1所述的文本识别方法,其特征在于,当字符序列中存在连续的两个目标子序列之间长度和相似度均满足预设条件时,确定所述目标子序列为相应文本的连续重复相似子序列的步骤,包括:
根据字符序列,按照预设规则生成多个后缀树序列以及与各所述后缀树序列对应的编码;
确定第一后缀树序列中自首位起长度为预设长度的第一目标子序列,以及第二后缀树序列中自首位起长度为所述预设长度的第二目标子序列;
当所述第一后缀树序列的编码与所述第二后缀树序列的编码之差绝对值等于所述预设长度,且所述第一目标子序列与所述第二目标子序列之间的相似度大于或等于预设阈值时,确定所述第一目标子序列与所述第二目标子序列为连续重复相似子序列。
4.根据权利要求3所述的方法,其特征在于,在所述确定第一后缀树序列中自首位起长度为预设长度的第一目标子序列,以及第二后缀树序列中自首位起长度为所述预设长度的第二目标子序列的步骤之前,还包括:
获得字符序列的自相关函数;
根据所述自相关函数极大值出现的位置,确定所述字符序列中字符串的重复周期;
根据所述重复周期,确定所述预设长度。
5.根据权利要求1至4任一项所述的方法,其特征在于,所述基于所述连续重复子序列特征和所述基本特征集合,进行特征聚类的步骤,包括:
采用预先训练得到的聚类模型,对所述连续重复子序列特征和所述基本特征集合进行特征聚类。
6.根据权利要求5所述的方法,其特征在于,在所述采用预先训练得到的聚类模型,对所述连续重复子序列特征和所述基本特征集合进行特征聚类的步骤之前,还包括:
获得样本文本,并对所述样本文本进行标注,获得所述样本文本的类型标签;
采用决策树算法,对所述样本文本的连续重复子序列特征、所述样本文本的基本特征集合以及所述类型标签进行模型训练,获得所述聚类模型。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京达佳互联信息技术有限公司,未经北京达佳互联信息技术有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201910600211.1/1.html,转载请声明来源钻瓜专利网。