[发明专利]文本纠错方法、装置、电子设备和计算机存储介质有效
申请号: | 202110943260.2 | 申请日: | 2021-08-17 |
公开(公告)号: | CN113743101B | 公开(公告)日: | 2023-05-23 |
发明(设计)人: | 刘继强;徐梓翔;孙萌;何中军;李芝 | 申请(专利权)人: | 北京百度网讯科技有限公司 |
主分类号: | G06F40/279 | 分类号: | G06F40/279;G06F40/30 |
代理公司: | 北京清亦华知识产权代理事务所(普通合伙) 11201 | 代理人: | 张梦瑶 |
地址: | 100085 北京市*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 文本 纠错 方法 装置 电子设备 计算机 存储 介质 | ||
1.一种文本纠错方法,包括:
获取参考译文和对应的待纠错的源文本;所述参考译文是不存在错误的正确文本;
将所述源文本和所述参考译文作为输入文本输入至序列标注模型,以对所述输入文本中各字符标注纠错标签;
根据所述纠错标签指示的调整策略,对所述源文本的各字符进行调整,得到对所述源文本纠错后的目标文本;
其中,所述将所述源文本和所述参考译文作为输入文本输入至序列标注模型,以对所述输入文本中各字符标注纠错标签,包括:
将所述源文本和所述参考译文拼接,以得到所述输入文本;
将所述输入文本输入所述序列标注模型;
采用所述序列标注模型中的输入层,对所述输入文本中的各字符根据各所述字符所属的语言类型和字符位置进行编码,以得到各所述字符的编码;所述输入层包含词编码、位置编码和语言类型编码,所述语言类型编码用于区分不同语种,不同的语种使用不同的嵌入进行表示;
采用所述序列标注模型中的翻译层,对所述输入文本中的各字符的编码进行语义特征提取,得到各字符的语义特征;
采用所述序列标注模型中的分类预测层,根据各字符的语义特征对各字符标注所述纠错标签;
其中,所述采用所述序列标注模型中的翻译层,对所述输入文本中的各字符的编码进行语义特征提取,得到各字符的语义特征,包括:
将所述输入文本中各字符的编码输入所述翻译层的注意力网络,以采用多头注意力机制预测所述输入文本中各字符之间的语义相关性;
所述翻译层的前馈神经网络根据所述注意力网络预测的语义相关性对各字符的编码进行语义特征提取,得到各字符的语义特征。
2.根据权利要求1所述的方法,其中,所述将所述源文本和所述参考译文作为输入文本输入至序列标注模型,以对所述输入文本中各字符标注纠错标签之前,还包括:
获取多组语料对,其中,各组所述语料对中包括第一训练文本,以及对应训练译文;
从多个设定规则中,随机确定目标规则;
根据所述目标规则,对所述第一训练文本中至少一个字符进行调整,以得到第二训练文本,并对所述至少一个字符标注所述目标规则对应的目标标签;
根据设定的固定标签,对所述训练译文标注对应的所述目标标签;
将所述第二训练文本和所述训练译文输入所述序列标注模型,以得到所述第二训练文本和所述训练译文中各字符的预测标签;
根据所述预测标签和所述目标标签之间的差异,对所述序列标注模型进行训练。
3.一种文本纠错装置,包括:
第一获取模块,用于获取参考译文和对应的待纠错的源文本;所述参考译文是不存在错误的正确文本;
第一预测模块,用于将所述源文本和所述参考译文作为输入文本输入至序列标注模型,以对所述输入文本中各字符标注纠错标签;
调整模块,用于根据所述纠错标签指示的调整策略,对所述源文本的各字符进行调整,得到对所述源文本纠错后的目标文本;
其中,所述第一预测模块,包括:
拼接单元,用于将所述源文本和所述参考译文拼接,以得到所述输入文本;
输入单元,用于将所述输入文本输入所述序列标注模型;
编码单元,用于采用所述序列标注模型中的输入层,对所述输入文本中的各字符根据各所述字符所属的语言类型和字符位置进行编码,以得到各所述字符的编码;所述输入层包含词编码、位置编码和语言类型编码,所述语言类型编码用于区分不同语种,不同的语种使用不同的嵌入进行表示;
特征提取单元,用于采用所述序列标注模型中的翻译层,对所述输入文本中的各字符的编码进行语义特征提取,得到各字符的语义特征;
标注单元,用于采用所述序列标注模型中的分类预测层,根据各字符的语义特征对各字符标注所述纠错标签;
其中,所述特征提取单元,还用于:
将所述输入文本中各字符的编码输入所述翻译层的注意力网络,以采用多头注意力机制预测所述输入文本中各字符之间的语义相关性;
所述翻译层的前馈神经网络根据所述注意力网络预测的语义相关性对各字符的编码进行语义特征提取,得到各字符的语义特征。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京百度网讯科技有限公司,未经北京百度网讯科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202110943260.2/1.html,转载请声明来源钻瓜专利网。
- 上一篇:光器件及光模块
- 下一篇:数据同步方法、装置、存储介质及电子设备