[发明专利]文本纠错方法及装置在审
申请号: | 201911401708.7 | 申请日: | 2019-12-30 |
公开(公告)号: | CN111160013A | 公开(公告)日: | 2020-05-15 |
发明(设计)人: | 徐梦笛;邓卓彬;付志宏;何径舟 | 申请(专利权)人: | 北京百度网讯科技有限公司 |
主分类号: | G06F40/232 | 分类号: | G06F40/232;G06F16/33 |
代理公司: | 北京清亦华知识产权代理事务所(普通合伙) 11201 | 代理人: | 蔡丽 |
地址: | 100085 北京市*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 文本 纠错 方法 装置 | ||
1.一种文本纠错方法,其特征在于,包括:
获取待纠错的文本以及所述文本所属的领域,所述文本包括:至少一个词语;
针对所述文本中的每个词语,根据所述词语查询所述领域的召回词表,判断是否存在与所述词语匹配的待纠错词语;所述召回词表包括:待纠错词语与领域关键词的对应关系;
在所述召回词表中存在与所述词语匹配的待纠错词语时,将所述匹配的待纠错词语对应的领域关键词,确定为所述词语对应的候选词语;
结合所述文本中各个词语对应的候选词语,对所述文本进行纠错处理,得到纠错后的文本。
2.根据权利要求1所述的方法,其特征在于,所述领域的召回词表包括以下词表中的任意一个或者多个:易错词召回词表、音近词召回词表和形近词召回词表;
所述易错词召回词表中的待纠错词语,为领域关键词对应的易错词语;
所述音近词召回词表中的待纠错词语,为领域关键词对应的音近词语;
所述形近词召回词表中的待纠错词语,为领域关键词对应的形近词语。
3.根据权利要求1所述的方法,其特征在于,还包括:
在所述召回词表中不存在与所述词语匹配的待纠错词语时,获取所述词语对应的相似词语;所述相似词语包括:所述词语对应的形近词语和/或音近词语;
根据所述词语对应的相似词语,确定所述词语对应的候选词语。
4.根据权利要求3所述的方法,其特征在于,所述根据所述词语对应的相似词语,确定所述词语对应的候选词语,包括:
针对所述词语对应的每个相似词语,将所述词语、所述相似词语以及所述文本输入预设的纠错模型,获取所述相似词语的打分分数;
按照打分分数对所述词语对应的各个相似词语进行降序排序,将排序在前的预设数量的相似词语,确定为所述词语对应的候选词语。
5.根据权利要求1所述的方法,其特征在于,所述结合所述文本中各个词语对应的候选词语,对所述文本进行纠错处理,得到纠错后的文本,包括:
针对所述文本中各个词语对应的候选词语,在所述候选词语为领域关键词时,将所述候选词语的打分分数设置为预设分数;
将所述文本中各个词语对应的候选词语,以及候选词语的打分分数,进行动态规划解码运算,获取分数最高的组合策略;所述组合策略包括:所述文本中各个词语对应的选中候选词语;
根据所述文本中各个词语对应的选中候选词语,对所述文本中的相应词语进行替换,得到纠错后的文本。
6.根据权利要求5所述的方法,其特征在于,所述根据所述文本中各个词语对应的选中候选词语,对所述文本中的相应词语进行替换,得到纠错后的文本之前,包括:
将所述文本中各个词语对应的选中候选词语、忽略纠错选项提供给所述用户,以便用户选择;
对应的,所述根据所述文本中各个词语对应的选中候选词语,对所述文本中的相应词语进行替换,得到纠错后的文本,包括:
在检测到用户选择所述文本中各个词语对应的选中候选词语时,根据所述文本中各个词语对应的选中候选词语,对所述文本中的相应词语进行替换,得到纠错后的文本。
7.根据权利要求1所述的方法,其特征在于,所述获取待纠错的文本以及所述文本所属的领域,包括:
获取待处理的文本;
获取所述文本的满足度;所述满足度根据所述文本在文本库中出现的总次数,和/或,在预设时间长度内出现的频次确定;
在所述文本的满足度小于预设满足度阈值时,根据所述文本查询纠错反馈记录,判断是否存在与所述文本匹配的第一文本;所述第一文本与所述文本内容相同,且纠错反馈为忽略纠错的文本;
在所述文本的满足度小于预设满足度阈值,且所述纠错反馈记录中不存在与所述文本匹配的第一文本时,将所述文本确定为待纠错的文本,获取所述文本所属的领域;
在所述文本的满足度大于等于预设满足度阈值,或者所述纠错反馈记录中存在与所述文本匹配的第一文本时,确定所述文本不需要进行纠错。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京百度网讯科技有限公司,未经北京百度网讯科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201911401708.7/1.html,转载请声明来源钻瓜专利网。