[发明专利]一种文本纠错方法、装置以及相关设备有效
申请号: | 201810532317.8 | 申请日: | 2018-05-29 |
公开(公告)号: | CN108874174B | 公开(公告)日: | 2020-04-24 |
发明(设计)人: | 卢小东 | 申请(专利权)人: | 腾讯科技(深圳)有限公司 |
主分类号: | G06F3/023 | 分类号: | G06F3/023;G06F40/232;G06F40/30 |
代理公司: | 广州三环专利商标代理有限公司 44202 | 代理人: | 郝传鑫;熊永强 |
地址: | 518057 广东省深圳*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 文本 纠错 方法 装置 以及 相关 设备 | ||
1.一种文本纠错方法,其特征在于,包括:
获取目标文本,将所述目标文本中的所有字符,作为目标字符;
获取与每个目标字符相关联的多个辅助数据;所述多个辅助数据包括:拼音数据、笔画数据和字形数据;
分别提取所述拼音数据、所述笔画数据和所述字形数据分别对应的辅助特征向量,并将属于同一个目标字符的多个辅助特征向量拼接处理,得到目标特征向量;一个所述辅助数据是指所述目标字符对应的一种输入来源数据;
根据所述目标字符在所述目标文本中的顺序,将所述每个目标字符对应的目标特征向量组合为所述目标特征向量序列,基于第一长短期记忆网络和第二长短期记忆网络识别所述目标特征向量序列,得到标准文本,并根据所述标准文本对所述目标文本进行纠错处理。
2.根据权利要求1所述的方法,其特征在于,所述分别提取每个辅助数据对应的辅助特征向量,包括
基于循环神经网络对所述笔画数据进行时序处理,得到所述笔画数据对应的时序特征向量;
基于卷积神经网络对所述拼音数据进行卷积处理和池化处理,得到所述拼音数据对应的空间特征向量;
基于所述卷积神经网络对所述字形数据进行卷积处理和池化处理,得到所述字形数据对应的空间特征向量;
将所述笔画数据对应的时序特征向量、所述拼音数据对应的空间特征向量和所述字形数据对应的空间特征向量均作为所述辅助特征向量。
3.根据权利要求1所述的方法,其特征在于,所述将所有目标特征向量组合为目标特征向量序列,识别所述目标特征向量序列,得到标准文本,包括:
根据所述目标字符在所述目标文本中的顺序,将所述每个目标字符对应的目标特征向量组合为所述目标特征向量序列;
基于第一长短期记忆网络中的隐藏层,对所述目标特征向量序列进行双向循环编码处理,得到所述目标特征向量序列对应的正向语义向量和逆向语义向量,将所述正向语义向量和所述逆向语义向量相加,得到所述目标特征向量序列对应的目标语义向量;
基于第二长短期记忆网络中的隐藏层、所述目标特征向量序列中各目标特征向量,对所述目标语义向量解码处理,得到各目标特征向量对应的目标隐藏状态向量;
识别所有目标隐藏状态向量,得到各目标隐藏状态向量对应的标准字符,并将所述所有目标隐藏状态向量对应的标准字符组合为所述标准文本。
4.根据权利要求3所述的方法,其特征在于,所述识别所有目标隐藏状态向量,得到各目标隐藏状态向量对应的标准字符,并将所述所有目标隐藏状态向量对应的标准字符组合为所述标准文本,包括:
基于所述第二长短期记忆网络的输出层,识别所有目标隐藏状态向量与所述第二长短期记忆网络中多个字符特征之间的匹配概率;
将所述匹配概率大于匹配阈值的字符特征对应的字符,作为标准字符,将所有目标特征向量对应的标准字符组合为至少一个待确定文本;所述待确定文本中各标准字符对应不同的目标特征向量,且所述待确定文本中的标准字符的数量和所有目标特征向量的数量相等;
将置信度大于置信阈值所对应的待确定文本作为所述标准文本;所述待确定文本对应的置信度是通过所述待确定文本中各标准字符对应的匹配概率所计算得到的。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于腾讯科技(深圳)有限公司,未经腾讯科技(深圳)有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201810532317.8/1.html,转载请声明来源钻瓜专利网。
- 上一篇:中文速录方案
- 下一篇:一种数据处理方法、装置、设备和介质