[发明专利]一种中文拼写检查方法有效

专利信息
申请号: 201910728950.9 申请日: 2019-08-08
公开(公告)号: CN110472243B 公开(公告)日: 2023-04-07
发明(设计)人: 张东生;刘纯燕;李涵;张梦琪;赵凯 申请(专利权)人: 河南大学
主分类号: G06F40/232 分类号: G06F40/232;G06N3/0464;G06N3/0442;G06N3/08
代理公司: 北京知汉亭知识产权代理事务所(普通合伙) 16011 代理人: 韩志伟
地址: 475001 河*** 国省代码: 河南;41
权利要求书: 查看更多 说明书: 查看更多
摘要:
搜索关键词: 一种 中文 拼写 检查 方法
【说明书】:

发明涉及一种中文拼写检查方法。包括如下步骤:构建分词模型,对待检测文本进行分词,得到分词序列;辨认分词序列中的可疑字,并对可疑字进行标记;建立混淆集;利用混淆集构建图模型框架生成纠正候选;计算得出最优候选结果。本发明构建了优质的混淆字集,对分词系统做进一步改进,提高分词的准确率,进而更准确地查找错误位置和错误字。

技术领域

本发明涉及文字检错领域,特别是一种中文拼写检查方法。

背景技术

在国内外相关领域研发人员的共同努力下,中文拼写检查在关键技术方面取得了重要突破,在技术运用方面也有相关产品落地,比如百度智能纠错平台,云查错等各种APP,拼写检查的质量在一定程度上满足了人们的应用需求。然而,在效果上面,人们还在追求更高水平,错别字检测的准确度、句子修改的正确率、以及混淆集建立的实用性等,都有待提高。

实证研究表明,仅使用带注释的语料库不能产生令人满意的性能,因为拼写错误的学习是严重不平衡的机器学习任务,很少发生但多样化的错误形式的发现,需要更大的正确文字语料库。这种情况促使研究者通过整合有用的方法找到更好的方法。研究者观察到中文拼写错误与分词错误有紧密的正相关关系,因为拼写错误很可能导致分词错误。这种观察是有道理的,因为拼写错误可能会导致一个正确的单词产生不太可能的分段句子。从而,可以粗略地判断:所有可能的单词分割中有或没有拼写校正,具有最高可能性的分割则通常会产生正确的句子。

如果能提出一种同时解决分词和拼写错误检查的技术方案,将是十分有意义的。

发明内容

为解决上述问题,本发明提供了一种中文拼写检查方法,包括如下步骤:

步骤一:构建分词模型,对待检测文本进行分词,得到分词序列;

步骤二:辨认分词序列中的可疑字,并对可疑字进行标记;

步骤四:建立混淆集;

步骤五:利用混淆集构建图模型框架生成纠正候选;

步骤六:计算得出最优候选结果。

进一步的,步骤一中,构建分词模型的具体方法为:

S1.1:预先选定Bi-LSTM模型;

S1.2:对语料进行处理,使用word2vec对语料的字进行嵌入,得到字嵌入;

S1.3:将字嵌入的特征喂给Bi-LSTM模型;

S1.4:在Bi-LSTM模型中加入线性层、CRF层;(请确定S1.3与S1.4的步骤顺序),得到分词模型。

进一步的,步骤二中,辨认可疑字的具体方法为:将单个字构成的词定义为单字,如果分词序列出现连续的单字构成的单字串,则将单字串认定为可疑字。

进一步的,混淆集的数据格式是key-value格式,其中key为中文字或者中文词语,value为该中文字词可能存在的错误形式。

进一步的,所述错误形式分为发音混淆、形状混淆;形状混淆,是指输入错误;发音混淆包括相同读音、相同音节不同音调、相似音节相同音调、相似音节不同音调。

进一步的,步骤五具体为:对分词序列内的可疑字进行混淆集替换,最后选择满足最短路径的边,确定最终的错误字,输出错误的位置。

进一步的,步骤五中,如果存在多条最短路径,则利用RNN+N-gram模型,确定最终的错误字,输出错误的位置。

进一步的,步骤六具体为:构建RNN+N-gram框架,采用RNN算法得到最优的一个候选句,并将其作为错字校对的最终结果。

本发明的有益效果为:

1.经济效益分析

下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。

该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于河南大学,未经河南大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服

本文链接:http://www.vipzhuanli.com/pat/books/201910728950.9/2.html,转载请声明来源钻瓜专利网。

×

专利文献下载

说明:

1、专利原文基于中国国家知识产权局专利说明书;

2、支持发明专利 、实用新型专利、外观设计专利(升级中);

3、专利数据每周两次同步更新,支持Adobe PDF格式;

4、内容包括专利技术的结构示意图流程工艺图技术构造图

5、已全新升级为极速版,下载速度显著提升!欢迎使用!

请您登陆后,进行下载,点击【登陆】 【注册】

关于我们 寻求报道 投稿须知 广告合作 版权声明 网站地图 友情链接 企业标识 联系我们

钻瓜专利网在线咨询

周一至周五 9:00-18:00

咨询在线客服咨询在线客服
tel code back_top