[发明专利]文本处理方法及装置在审
申请号: | 202210257335.6 | 申请日: | 2022-03-16 |
公开(公告)号: | CN114357122A | 公开(公告)日: | 2022-04-15 |
发明(设计)人: | 弓源;李长亮 | 申请(专利权)人: | 北京金山数字娱乐科技有限公司 |
主分类号: | G06F16/33 | 分类号: | G06F16/33;G06F16/35;G06F40/279;G06F40/30;G06F40/58;G06N3/04;G06N3/08 |
代理公司: | 北京智信禾专利代理有限公司 11637 | 代理人: | 张小娜 |
地址: | 100085 北京市海淀区*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 文本 处理 方法 装置 | ||
1.一种文本处理方法,其特征在于,包括:
获取目标口语文本;
将所述目标口语文本进行分类处理,获得所述目标口语文本对应的文本类型;
在所述文本类型为标准文本类型的情况下,根据所述标准文本类型选择对应的书面语改写模型;
将所述目标口语文本输入所述书面语改写模型进行处理,获得所述目标口语文本对应的目标书面语文本;
其中,所述书面语改写模型,基于书面语文本以及对所述书面语文本进行回译和转换处理获得的口语文本训练得到。
2.根据权利要求1所述的文本处理方法,其特征在于,所述获得所述目标口语文本对应的文本类型之后,还包括:
在所述文本类型为模糊文本类型的情况下,根据所述模糊文本类型选择对应的书面语转换模型;
将所述目标口语文本输入所述书面语转换模型进行处理,获得所述目标口语文本对应的转换书面语文本;
其中,所述书面语转换模型,基于所述书面语文本以及对所述书面语文本进行转换处理获得的基础口语文本训练得到。
3.根据权利要求2所述的文本处理方法,其特征在于,所述书面语转换模型的训练,包括:
获取书面语文本;
对所述书面语文本进行语句组成单元的转换处理,获得基础口语文本;
基于所述书面语文本与所述基础口语文本的对应关系,构建基础样本语料;
通过所述基础样本语料对初始书面语转换模型进行训练,直至获得满足第二训练停止条件的所述书面语转换模型。
4.根据权利要求1所述的文本处理方法,其特征在于,所述将所述目标口语文本进行分类处理,获得所述目标口语文本对应的文本类型,包括:
将所述目标口语文本输入文本分类模型进行分类处理,获得所述目标口语文本对应的文本类型;其中,所述文本分类模型的训练,包括:
获取样本口语文本以及样本口语文本对应的语义清晰度标签;
基于所述样本口语文本以及所述语义清晰度标签构建训练样本对;
通过所述训练样本对对初始文本分类模型进行模型训练,直至获得满足分类训练停止条件的所述文本分类模型。
5.根据权利要求1所述的文本处理方法,其特征在于,所述将所述目标口语文本输入所述书面语改写模型进行处理,获得所述目标口语文本对应的目标书面语文本,包括:
将所述目标口语文本进行分句处理,获得所述目标口语文本中包含的语句序列;
将所述语句序列中的口语句单元依次输入所述书面语改写模型的编码层进行编码处理,获得所述口语句单元对应的语句特征向量和词表向量,其中,所述词表向量由所述口语句单元与词表进行映射获得;
计算所述语句特征向量与所述词表向量之间的向量积,并将所述向量积输入所述书面语改写模型的解码层进行解码处理,获得所述目标口语文本对应的目标书面语文本。
6.根据权利要求1所述的文本处理方法,其特征在于,所述书面语改写模型,基于书面语文本以及对所述书面语文本进行回译和转换处理获得的口语文本训练得到,包括:
获取书面语文本;
通过对所述书面语文本进行回译处理,获得所述书面语文本对应的回译书面语文本;
对所述书面语文本和所述回译书面语文本分别进行语句组成单元的转换处理,获得口语文本;
基于所述书面语文本和所述回译书面语文本与所述口语文本的对应关系,构建样本语料;
通过所述样本语料对初始书面语改写模型进行训练,直至获得满足第二训练停止条件的所述书面语改写模型。
7.根据权利要求6所述的文本处理方法,其特征在于,所述通过对所述书面语文本进行回译处理,获得所述书面语文本对应的回译书面语文本,包括:
将所述书面语文本翻译为预设语种对应的译文书面语文本;
将所述译文书面语文本回译为所述书面语文本所属的目标语种,获得初始回译书面语文本;
通过所述书面语文本中的关键词语对所述初始回译书面语文本中所述关键词语对应的目标关键词语进行替换,获得回译书面语文本。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京金山数字娱乐科技有限公司,未经北京金山数字娱乐科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202210257335.6/1.html,转载请声明来源钻瓜专利网。