[发明专利]中文纠错方法和装置、存储介质及电子装置有效
申请号: | 201910901631.3 | 申请日: | 2019-09-23 |
公开(公告)号: | CN110852087B | 公开(公告)日: | 2022-02-22 |
发明(设计)人: | 何蕾;曹霖;张锋 | 申请(专利权)人: | 腾讯科技(深圳)有限公司 |
主分类号: | G06F40/284 | 分类号: | G06F40/284 |
代理公司: | 北京康信知识产权代理有限责任公司 11240 | 代理人: | 周婷婷 |
地址: | 518000 广东省深圳*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 中文 纠错 方法 装置 存储 介质 电子 | ||
1.一种中文纠错方法,其特征在于,包括:
根据待纠错语句中的目标词从候选词表中获取候选词,并将所述候选词替换所述待纠错语句中的所述目标词;计算所述待纠错语句在替换前的第一困惑度指标PPL值,以及所述待纠错语句中文字在替换后的第二困惑度指标PPL值;
在所述第一困惑度指标PPL值与所述第二困惑度指标PPL值的差值小于第一阈值的情况下,通过序列标注模型确定所述待纠错语句中疑似错别字的位置,其中,所述序列标注模型用于对输入的文本序列中的汉字进行错别字识别,并根据识别结果进行标注;
将标记有疑似错别字位置的文字用预测文字进行替换,计算所述预测文字在所述目标语句中的概率;
在所述概率大于第二阈值的情况下,将所述疑似错别字替换为预测字;
在所述第一困惑度指标PPL值与所述第二困惑度指标PPL值的差值大于第一阈值的情况下,确定出所述目标词存在错别字;
将所述待纠错语句中的所述目标词替换为所述候选词表中的所述候选词。
2.根据权利要求1所述的方法,其特征在于,所述根据待纠错语句中的目标词从候选词表中获取候选词,并将所述候选词替换所述待纠错语句中的所述目标词包括:
所述待纠错语句中的目标词与所述候选词表中的所述候选词具有映射关系,其中,所述候选词表至少包括以下之一:同音词表、近音词表、形似字表、高频词表。
3.根据权利要求1所述的方法,其特征在于,所述计算所述待纠错语句在替换前的第一困惑度指标PPL值,以及所述待纠错短句中文字在替换 后的第二困惑度指标PPL值包括:
通过如下公式确定所述第一困惑度指标PPL值或第二困惑度指标PPL值:
其中,S是代表语句,n是句子长度,代表语句中的词。
4.根据权利要求1所述的方法,其特征在于,所述根据待纠错语句中的目标词从候选词表中获取候选词,并将所述候选词替换所述待纠错语句中的所述目标词之前,所述方法还包括:
获取第一语句;
对所述第一语句进行成语和/或固定搭配纠错之后,得到所述待纠错语句。
5.一种中文纠错装置,其特征在于,包括:
第一替换单元,用于根据待纠错语句中的目标词从候选词表中获取候选词,并将所述候选词替换所述待纠错语句中的所述目标词;
第一计算单元,用于计算所述待纠错语句在替换前的第一困惑度指标PPL值,以及所述待纠错语句中文字在替换后的第二困惑度指标PPL值;
第一获取单元,用于在所述第一困惑度指标PPL值与所述第二困惑度指标PPL值的差值小于第一阈值的情况下,获取所述待纠错语句中疑似错别字的位置;
第二计算单元,用于将标记有疑似错别字位置的文字用预测文字进行替换,计算所述预测文字在所述目标语句中的概率;
第二替换单元,用于在所述概率大于第二阈值的情况下,将所述疑似错别字替换为预测字;
第三替换单元,用于在所述第一困惑度指标PPL值与所述第二困惑度指标PPL值的差值大于第一阈值的情况下,将所述待纠错语句中的所述目标词替换为所述候选词表中的所述候选词;
所述第一获取单元包括:
确定模块,用于通过序列标注模型确定所述待纠错语句中疑似错别字的位置,其中,所述序列标注模型用于对输入的文本序列中的汉字进行错别字识别,并根据识别结果进行标注。
6.根据权利要求5所述的装置,其特征在于,所述第一替换单元包括:
映射模块,用于所述待纠错语句中的目标词与所述候选词表中的所述候选词具有映射关系,其中,所述候选词表至少包括以下之一:同音词表、近音词表、形似字表、高频词表。
7.根据权利要求5所述的装置,其特征在于,所述第一计算单元包括:
通过如下公式确定所述第一困惑度指标PPL值或第二困惑度指标PPL值:
其中,S是代表语句,n是句子长度,代表语句中的词。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于腾讯科技(深圳)有限公司,未经腾讯科技(深圳)有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201910901631.3/1.html,转载请声明来源钻瓜专利网。