[发明专利]文本纠错方法、装置、设备及存储介质有效
申请号: | 202110117570.9 | 申请日: | 2021-01-28 |
公开(公告)号: | CN112905737B | 公开(公告)日: | 2023-07-28 |
发明(设计)人: | 邓悦;郑立颖;徐亮 | 申请(专利权)人: | 平安科技(深圳)有限公司 |
主分类号: | G06F16/33 | 分类号: | G06F16/33;G06F17/16;G06F40/284;G06F18/214 |
代理公司: | 北京市京大律师事务所 11321 | 代理人: | 姚维 |
地址: | 518033 广东省深圳市福田区福*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 文本 纠错 方法 装置 设备 存储 介质 | ||
1.一种文本纠错方法,其特征在于,所述文本纠错方法包括:
获取待纠错文本语料,并将所述待纠错文本语料输入预先训练好的嵌入层,生成待纠错词向量组;
将所述待纠错词向量组输入预先训练好的检测判别器中,生成词向量的位置信息;所述词向量的位置信息包括0和1;其中,所述位置信息中0代表所述位置的词向量是正确的词向量,1代表所述位置的词向量是错误的词向量;
按照所述词向量的位置信息对所述待纠错词向量组进行掩码覆盖,生成覆盖后的词向量组;
将所述覆盖后的词向量组输入预先训练好的纠错网络中,生成纠错后的文本语料,并基于所述预先训练好的纠错网络还原所述纠错后的文本语料,生成目标文本语料,所述纠错后的文本语料包括占位符;
所述将所述待纠错词向量组输入预先训练好的检测判别器中,生成词向量的位置信息包括:将所述待纠错词向量组和所述待纠错文本语料,输入检测线性层中进行计算,生成待计算向量组,所述检测线性层位于预先训练好的检测判别器中;按照预置的标识符概率公式对所述待计算向量组进行概率计算,生成位置概率;基于所述位置概率确定词向量的位置信息;将最大的位置概率确定为错别字位置概率;
所述按照所述词向量的位置信息对所述待纠错词向量组进行掩码覆盖,生成覆盖后的词向量组包括:获取预置的修改幅度参数,所述修改幅度参数为自然数;基于所述词向量的位置信息在所述待纠错词向量组中确定目标待纠错词向量,所述目标待纠错词向量的位置信息为错别字词向量的位置信息;基于所述修改幅度参数对所述目标待纠错词向量进行掩码覆盖,生成覆盖后的词向量组。
2.根据权利要求1所述的文本纠错方法,其特征在于,所述获取待纠错文本语料,并将所述待纠错文本语料输入预先训练好的嵌入层,生成待纠错词向量组包括:
获取待纠错文本语料,并对所述待纠错文本语料进行独热编码,生成待纠错文本编码;
从预先训练好的嵌入层中读取映射矩阵,并将所述待纠错文本编码输入所述预先训练好的嵌入层中,将所述待纠错文本编码与所述映射矩阵相乘,生成待纠错词向量组。
3.根据权利要求1所述的文本纠错方法,其特征在于,所述将所述覆盖后的词向量组输入预先训练好的纠错网络中,生成纠错后的文本语料,并基于所述预先训练好的纠错网络还原所述纠错后的文本语料,生成目标文本语料,所述纠错后的文本语料包括占位符包括:
将所述覆盖后的词向量组输入纠错隐藏层中进行计算,生成纠错后的文本语料,所述纠错隐藏层位于预先训练好的纠错网络中,所述纠错后的文本语料包括占位符;
基于所述预先训练好的纠错网络对所述占位符进行预测,生成预测后的占位符语料;
基于所述预测后的占位符语料和所述纠错后的文本语料,生成目标文本语料。
4.根据权利要求3所述的文本纠错方法,其特征在于,所述将所述覆盖后的词向量组输入纠错隐藏层中进行计算,生成纠错后的文本语料,所述纠错隐藏层位于预先训练好的纠错网络中,所述纠错后的文本语料包括占位符包括:
将所述覆盖后的词向量组输入预先训练好的纠错网络中,生成隐藏层文本信息;
对所述隐藏层文本信息进行初始化,生成初始化向量序列;
基于注意力机制对所述初始化向量序列进行计算,生成多个注意力权重得分;
将所述多个注意力权重得分和所述隐藏层文本信息输入纠错隐藏层中进行计算,生成纠错后的文本语料,所述纠错隐藏层位于预先训练好的纠错网络中,所述纠错后的文本语料包括占位符。
5.根据权利要求1-4中任意一项所述的文本纠错方法,其特征在于,在所述获取待纠错文本语料,并将所述待纠错文本语料输入预先训练好的嵌入层,生成待纠错词向量组之前,所述文本纠错方法还包括:
获取文本语料训练数据集和文本语料验证数据集,并采用所述文本语料训练数据进行生成器的训练和判别器的训练,生成初始检测生成器和初始检测判别器;
采用所述文本语料验证数据集,基于所述初始检测生成器和初始检测判别器进行调整,生成预先训练好的检测判别器。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于平安科技(深圳)有限公司,未经平安科技(深圳)有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202110117570.9/1.html,转载请声明来源钻瓜专利网。
- 上一篇:一种基于风能的抗风型驱鸟式气象传感器
- 下一篇:一种耐用型水龙头