[发明专利]一种基于拼音特征表征的中文纠错方法及系统

说明书

本发明提出了一种基于拼音特征表征的中文纠错方法及系统，其包括如下步骤：S1、构建汉字的拼音模糊集以及构造含有汉字错别字的中文语句训练样本；S2、利用上述训练样本进行模型训练；以及S3、提取目标中文语句中汉字的汉字字符嵌入序列和拼音字符嵌入序列，并输入到训练模型中，以得到目标中文语句中每个位置的汉字预测结果，最终获得纠错后的中文语句。本发明通过正确汉字和错别字之间以拼音作为媒介的映射关系来获得拼音模糊集，并基于混合注意力模块建立训练模型，以此提高错别字的学习效率和预测的准确度。

技术领域

本发明涉及数据处理领域，尤其涉及一种基于拼音特征表征的中文纠错方法及系统。

背景技术

中文汉字纠错一直是国内自然语言处理研究领域的热点。由于深度学习可以使得模型自动学习有效的语言知识，所以近年来在这个问题上，新提出的基于深度学习的方法总体上超过了基于传统机器学习的方法。现阶段，基于BERT（即Bidirectional EncoderRepresentations from Transformer）模型的方法在效果上达到了一个新的高度，该方法的优势在于其预训练阶段可以使语言模型学习到非常有效的语言知识。

将一个句子视作汉字字符序列，那么利用语言知识来纠正某个错别字其实就是建立句子中该错别字之外的其余字符序列与该错别字对应的正确汉字之间的映射关系。错别字之外的其余字符序列可以称为句子上下文信息，与该错别字对应的正确汉字可以称为预测目标。BERT模型的“遮掩语言模型”机制就是利用句子上下文来对每个位置的汉字进行预测，如果预测结果和输入不一样，则该位置的汉字被视作错别字。但通过BERT模型进行预测时，每次只能遮住15%的汉字，然后仅对这15%的汉字进行预测，所以每个句子至少需要预测7次才能输出整个预测结果，导致学习和预测效率较低。

对此，目前通过引入额外的特征加强BERT模型的预测效果，如Soft-Masked BERT、SpellGCN等。其中，Soft-Masked BERT通过添加Detection Network来给BERT模型添加错别字位置信息，SpellGCN则通过图嵌入给BERT模型添加与输入汉字近音、近形、近义等汉字的信息。在实践当中，这些改进的模型都达到了比较好预测、纠错效果。

由于智能拼音输入法的普及，对于中文纠错而言，句子中的大部分错别字都和该错别字的拼音具有较强的关联性。但上述各种模型多注重汉字语义的增强或加工，均未关注正确汉字与错别字在拼音输入上的联系，因此，在针对和拼音强关联的错别字纠错问题上，上述模型仍然存在预测准确度不高的问题。

发明内容

为解决上述技术问题，本发明提出了一种基于拼音特征表征的中文纠错方法及系统，其通过正确汉字和错别字之间以拼音作为媒介的映射关系来获得拼音模糊集，并基于混合注意力模块建立训练模型，以此提高错别字的学习效率和预测的准确度。

为实现上述目的，本发明提供如下技术方案：

一方面，提供了一种基于拼音特征表征的中文纠错方法，其包括如下步骤：

S1、构建汉字的拼音模糊集以及构造含有汉字错别字的中文语句训练样本；

S2、利用上述训练样本进行模型训练；

以及S3、提取目标中文语句中汉字的汉字字符嵌入序列和拼音字符嵌入序列，并输入到训练模型中，以得到目标中文语句中每个位置的汉字预测结果，最终获得纠错后的中文语句。

优选的，步骤S1中，每个汉字拼音对应的模糊集包括：该拼音声母对应的模糊声母与该拼音韵母对应的模糊韵母组合成的所有拼音；和/或，与该拼音发音相似，并且编辑距离小于2的拼音。

优选的，步骤S1中，含有汉字错别字的中文语句语料包含两种输入序列：汉字字符嵌入序列和拼音字符嵌入序列。

优选的，步骤S1中，构造含有汉字错别字的中文语句训练样本具体包括如下步骤：