[发明专利]文本纠错的方法和装置在审
申请号: | 201810146360.0 | 申请日: | 2018-02-12 |
公开(公告)号: | CN110162767A | 公开(公告)日: | 2019-08-23 |
发明(设计)人: | 杨俊 | 申请(专利权)人: | 北京京东尚科信息技术有限公司;北京京东世纪贸易有限公司 |
主分类号: | G06F17/27 | 分类号: | G06F17/27 |
代理公司: | 中原信达知识产权代理有限责任公司 11219 | 代理人: | 张一军;杨晓伟 |
地址: | 100195 北京市海淀区杏石口路6*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 纠错 文本 纠错文本 方法和装置 序列模型 注意力 计算机技术领域 标准文本 复杂度 准确率 输出 | ||
1.一种文本纠错的方法,其特征在于,包括:
根据文本纠错需求,获取待纠错文本;
根据纠错模型对所述待纠错文本进行纠错,输出所述待纠错文本对应的标准文本,所述纠错模型是经过训练的基于注意力的序列到序列模型。
2.根据权利要求1所述的方法,其特征在于,在根据纠错模型对所述待纠错文本进行纠错,输出所述待纠错文本对应的标准文本之前,所述方法还包括:
获取第一样本集和第二样本集,所述第一样本集包含至少一个标准文本,所述第二样本集包含与所述标准样本对应的错误文本;
利用所述第一样本集和所述第二样本集构建训练样本集;
对所述训练样本集进行训练,以得到所述纠错模型,所述纠错模型输入的是所述训练样本集的错误文本,输出的是所述训练样本集的标准文本。
3.根据权利要求2所述的方法,其特征在于,获取第一样本集和第二样本集包括:
获取第一样本集;
对所述第一样本集中的标准文本进行分词处理得到多个分词,并按照预设的规则生成每个分词对应的替换集;
从所述分词对应的替换集中选出预设个数的替换词;
根据所述替换词对所述标准文本进行随机替换生成错误文本,然后利用所述错误文本构成所述第二样本集。
4.根据权利要求3所述的方法,其特征在于,所述预设的规则包括以下各项中的至少一项:相同音规则、模糊音规则和形似词规则。
5.根据权利要求1所述的方法,其特征在于,所述经过训练的基于注意力的序列到序列模型包括:嵌入层、前向编码层、后向编码层、注意力机制、解码层和转换层。
6.根据权利要求5所述的方法,其特征在于,所述前向编码层、所述后向编码层和所述解码层皆包括长短时记忆网络。
7.一种文本纠错的装置,其特征在于,包括:
获取模块,用于根据文本纠错需求,获取待纠错文本;
纠错模块,用于根据纠错模型对所述待纠错文本进行纠错,输出所述待纠错文本对应的标准文本,所述纠错模型是经过训练的基于注意力的序列到序列模型。
8.根据权利要求7所述的装置,其特征在于,所述获取模块还用于:
获取第一样本集和第二样本集,所述第一样本集包含至少一个标准文本,所述第二样本集包含与所述标准样本对应的错误文本;
利用所述第一样本集和所述第二样本集构建训练样本集;
对所述训练样本集进行训练,以得到所述纠错模型,所述纠错模型输入的是所述训练样本集的错误文本,输出的是所述训练样本集的标准文本。
9.根据权利要求8所述的装置,其特征在于,所述获取模块还用于:
获取第一样本集;
对所述第一样本集中的标准文本进行分词处理得到多个分词,并按照预设的规则生成每个分词对应的替换集;
从所述分词对应的替换集中选出预设个数的替换词;
根据所述替换词对所述标准文本进行随机替换生成错误文本,然后利用所述错误文本构成所述第二样本集。
10.根据权利要求9所述的装置,其特征在于,所述预设的规则包括以下各项中的至少一项:相同音规则、模糊音规则和形似词规则。
11.根据权利要求7所述的装置,其特征在于,所述经过训练的基于注意力的序列到序列模型包括:嵌入层、前向编码层、后向编码层、注意力机制、解码层和转换层。
12.根据权利要求11所述的装置,其特征在于,所述前向编码层、所述后向编码层和所述解码层皆包括长短时记忆网络。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京京东尚科信息技术有限公司;北京京东世纪贸易有限公司,未经北京京东尚科信息技术有限公司;北京京东世纪贸易有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201810146360.0/1.html,转载请声明来源钻瓜专利网。