[发明专利]文本转换方法、装置、存储介质及电子设备在审
申请号: | 202110129830.4 | 申请日: | 2021-01-29 |
公开(公告)号: | CN112749552A | 公开(公告)日: | 2021-05-04 |
发明(设计)人: | 谢彬彬;李响;崔建伟;王斌 | 申请(专利权)人: | 北京小米松果电子有限公司 |
主分类号: | G06F40/253 | 分类号: | G06F40/253;G06F40/289;G06N20/00 |
代理公司: | 北京英创嘉友知识产权代理事务所(普通合伙) 11447 | 代理人: | 曾尧 |
地址: | 100085 北京市海淀*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 文本 转换 方法 装置 存储 介质 电子设备 | ||
1.一种文本转换方法,其特征在于,所述方法包括:
获取待转换文本;
将所述待转换文本输入文本转换模型,得到所述文本转换模型输出的目标文本;
其中,所述文本转换模型是通过如下方式得到的:
使用样本数据对至少两个抽象语法解析器进行联合训练,得到训练完成的所述至少两个抽象语法解析器,其中,所述样本数据包括待转换文本样本和样本语法树节点序列,各所述抽象语法解析器对应的样本数据中的待转换文本样本相同、且各所述抽象语法解析器对应的样本数据中的样本语法树节点序列是按照不同的遍历顺序对同一抽象语法树进行遍历得到的;
将训练完成的所述至少两个抽象语法解析器中的任意一个或多个抽象语法解析器作为所述文本转换模型的解码器组件,得到所述文本转换模型。
2.根据权利要求1所述的方法,其特征在于,所述方法还包括:通过如下方式构造用于所述至少两个抽象语法解析器进行训练的样本数据:
获取所述待转换文本样本,以及与所述待转换文本样本对应的目标文本样本;
根据所述目标文本样本构建与所述目标文本样本的语言类型对应的所述抽象语法树;
根据多种遍历顺序遍历所述抽象语法树,得到多种所述样本语法树节点序列;
将每种所述样本语法树节点序列分别与所述待转换文本样本进行组合,得到多组样本数据,其中,一组样本数据用于对一个所述抽象语法解析器进行训练。
3.根据权利要求2所述的方法,其特征在于,所述多种遍历顺序包括深度优先遍历顺序、广度优先遍历顺序、由左至右的横向遍历顺序、由右至左的横向遍历顺序、从上至下的纵向遍历顺序中的至少两种。
4.根据权利要求1-3中任一项所述的方法,其特征在于,所述对至少两个抽象语法解析器进行联合训练,包括:
在对两个抽象语法解析器进行联合训练的情况下,根据所述两个抽象语法解析器的输出结果,计算其中一个抽象语法解析器的输出结果与另一个抽象语法解析器的输出结果之间的差异;
将所述其中一个抽象语法解析器的输出结果与另一个抽象语法解析器的输出结果之间的差异作为该其中一个抽象语法解析器的损失信息,并根据所述损失信息更新该其中一个抽象语法解析器的训练参数。
5.根据权利要求4所述的方法,其特征在于,所述计算其中一个抽象语法解析器的输出结果与另一个抽象语法解析器的输出结果之间的差异,包括:
用KL散度计算其中一个抽象语法解析器的输出结果与另一个抽象语法解析器的输出结果之间的差异。
6.根据权利要求5所述的方法,其特征在于,在对所述两个抽象语法解析器进行联合训练的过程中,通过如下算式更新所述两个抽象语法解析器的训练参数:
其中,J(D,θ)和J(D′,θ′)分别表征所述两个抽象语法解析器的训练目标,θ和θ′分别表征所述两个抽象语法解析器的所述训练参数,D={(x,a)}和D′={(x,a′)}分别表征所述两个抽象语法解析器的样本数据,x表征待转换文本样本,a和a′分别表征所述两个抽象语法解析器的样本数据中的样本语法树节点序列,T表征样本语法树节点序列的长度,λ是用于控制损失函数的重要性系数,KL(||)是KL散度,z表征所述样本语法树节点序列对应的抽象语法树,n表征抽象语法树z中的一个节点,t(n)和t′(n)表征所述两个抽象语法解析器的样本语法树节点序列中节点n分别对应的在抽象语法树z中的遍历时间步长,p表征概率,a<t(n)表征样本语法树节点序列中节点n之前的节点。
7.根据权利要求1所述的方法,其特征在于,所述将训练完成的所述至少两个抽象语法解析器中的任意一个或多个抽象语法解析器作为所述文本转换模型的解码器组件,得到所述文本转换模型,包括:
将训练完成的目标抽象语法解析器作为所述文本转换模型的解码器组件,得到所述文本转换模型,所述目标抽象语法解析器是样本数据中包括以深度优先遍历顺序遍历所述抽象语法树得到的样本语法树节点序列的抽象语法解析器。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京小米松果电子有限公司,未经北京小米松果电子有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202110129830.4/1.html,转载请声明来源钻瓜专利网。
- 上一篇:一种烟支滤棒切刀刀箱、系统及方法
- 下一篇:一种显微装置及显微装置的调焦方法