[发明专利]文本纠错方法、装置、介质及设备在审

专利信息
申请号: 202110172228.9 申请日: 2021-02-08
公开(公告)号: CN113392635A 公开(公告)日: 2021-09-14
发明(设计)人: 罗文寒;陈博恒;殷泽龙 申请(专利权)人: 腾讯科技(深圳)有限公司
主分类号: G06F40/232 分类号: G06F40/232;G06F40/289
代理公司: 广州三环专利商标代理有限公司 44202 代理人: 熊永强;贾允
地址: 518057 广东省深圳*** 国省代码: 广东;44
权利要求书: 查看更多 说明书: 查看更多
摘要:
搜索关键词: 文本 纠错 方法 装置 介质 设备
【权利要求书】:

1.一种文本纠错方法,其特征在于,所述方法包括:

获取待纠错文本,基于语言模型对所述待纠错文本进行预测,得到所述待纠错文本中目标文本的文本预测值;

根据形近字列表确定所述文本预测值的一个或多个形近字,所述形近字列表是预先通过对文本库语料进行处理得到的;

根据所述文本预测值和所述文本预测值的一个或多个形近字,对所述待纠错文本中所述目标文本进行纠错。

2.根据权利要求1所述的方法,其特征在于,所述根据形近字列表确定所述文本预测值的一个或多个形近字之前,所述方法还包括:

通过对文本库语料进行词频分析和差异量化,得到所述形近字列表;

所述通过对文本库语料进行词频分析和差异量化,得到所述形近字列表,包括:

获取文本库中的短文本语料;

对所述短文本语料进行词频统计和排序,得到第一词汇集合和第二词汇集合;

对于所述第一词汇集合中的第一目标词汇,从所述第二词汇集合中获取与所述第一目标词汇的差异程度满足预设条件的第二目标词汇;

根据所述第一目标词汇和所述第二目标词汇确定差异文本,根据所述差异文本生成至少一组形近字对;

遍历所述第一词汇集合中的所有词汇,确定所述第一词汇集合中所有词汇的形近字对,得到形近字列表。

3.根据权利要求2所述的方法,其特征在于,所述对于所述第一词汇集合中的第一目标词汇,从所述第二词汇集合中获取与所述第一目标词汇的差异程度满足预设条件的第二目标词汇,包括:

计算得到所述第二词汇集合中各第二词汇与所述第一目标词汇的编辑距离;

将编辑距离满足预设条件的第二词汇确定为第二目标词汇。

4.根据权利要求1所述的方法,其特征在于,所述获取待纠错文本,基于语言模型对所述待纠错文本进行预测,得到所述待纠错文本中目标文本的文本预测值,包括:

通过所述文本库语料对机器学习模型进行训练得到语言模型;

确定所述待纠错文本中的目标文本以及所述目标文本的上文或下文;

基于所述语言模型,根据所述目标文本的上文或下文进行预测,得到所述待纠错文本中所述目标文本的文本预测值。

5.根据权利要求1所述的方法,其特征在于,所述根据所述文本预测值和所述文本预测值的一个或多个形近字,对所述待纠错文本中所述目标文本进行纠错,包括:

根据所述文本预测值的一个或多个形近字,判断所述目标文本是否为所述文本预测值的形近字;

若所述目标文本为所述文本预测值的形近字,则将所述目标文本纠正为所述文本预测值,则将所述目标文本纠正为所述文本预测值。

6.根据权利要求2所述的方法,其特征在于,所述方法还包括:

对于所述第一词汇集合中的第一目标词汇,从所述形近字列表中获取所述第一目标词汇中各文本的全部形近字对;

将所述全部形近字对进行组合,得到所述第一目标词汇的混淆词汇;

遍历所述第一词汇集合中的所有词汇,确定所述第一词汇集合中的所有词汇的混淆词汇,生成错误词汇候选集合,所述错误词汇候选集合中的词汇对包括标准词汇和对应的混淆词汇;

获取所述待纠错文本中的短文本,根据所述错误词汇候选集合对所述短文本进行检错纠错。

7.根据权利要求6所述的方法,其特征在于,所述获取所述待纠错文本中的短文本,根据所述错误词汇候选集合对所述短文本进行检错纠错,包括:

获取所述待纠错文本中的短文本;

对于所述短文本中词频低于预设词频阈值的目标短文本,若所述目标短文本为所述错误词汇候选集合中的混淆词汇,则根据所述错误词汇候选集合将所述目标短文本纠正为所述混淆词汇对应的标准词汇。

下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。

该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于腾讯科技(深圳)有限公司,未经腾讯科技(深圳)有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服

本文链接:http://www.vipzhuanli.com/pat/books/202110172228.9/1.html,转载请声明来源钻瓜专利网。

×

专利文献下载

说明:

1、专利原文基于中国国家知识产权局专利说明书;

2、支持发明专利 、实用新型专利、外观设计专利(升级中);

3、专利数据每周两次同步更新,支持Adobe PDF格式;

4、内容包括专利技术的结构示意图流程工艺图技术构造图

5、已全新升级为极速版,下载速度显著提升!欢迎使用!

请您登陆后,进行下载,点击【登陆】 【注册】

关于我们 寻求报道 投稿须知 广告合作 版权声明 网站地图 友情链接 企业标识 联系我们

钻瓜专利网在线咨询

周一至周五 9:00-18:00

咨询在线客服咨询在线客服
tel code back_top