[发明专利]基于机器翻译模型的翻译方法、装置、设备和存储介质有效
申请号: | 201910533371.9 | 申请日: | 2019-06-19 |
公开(公告)号: | CN110457713B | 公开(公告)日: | 2023-07-28 |
发明(设计)人: | 邵晨泽;张金超;孟凡东;冯洋;周杰 | 申请(专利权)人: | 腾讯科技(深圳)有限公司;中国科学院计算技术研究所 |
主分类号: | G06F40/58 | 分类号: | G06F40/58;G06N3/0455;G06N3/048;G06N3/047;G06N3/08 |
代理公司: | 北京三高永信知识产权代理有限责任公司 11138 | 代理人: | 张所明 |
地址: | 518057 广东省深圳*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 基于 机器翻译 模型 翻译 方法 装置 设备 存储 介质 | ||
1.一种基于机器翻译模型的翻译方法,其特征在于,所述方法包括:
将源端句子的第i个源端词嵌入编码为中间向量;
所述机器翻译模型包括解码器,所述解码器包括m-1个并联的解码器底层、融合层和1个解码器顶层,所述解码器底层、所述融合层和所述解码器顶层顺序串联,所述融合层包括激活函数,m为正整数;将所述第i个源端词嵌入和所述中间向量作为输入数据,通过所述m-1个并联的解码器底层对所述中间向量解码得到解码后的中间向量;通过所述融合层中的激活函数将所述解码后的中间向量与目标端句子的第i-1个目标端词嵌入的和向量进行非线性变化,得到融合后的中间向量;通过所述解码器顶层对所述融合后的中间向量进行解码,得到解码后的词向量;
根据所述解码后的词向量对第i个目标端词语进行概率预测,输出预测结果,i为正整数。
2.根据权利要求1所述的方法,其特征在于,所述通过所述融合层中的激活函数将所述解码后的中间向量与目标端句子的第i-1个目标端词嵌入的和向量进行非线性变化,得到融合后的中间向量之前,包括:
当所述解码后的中间向量的第一向量长度小于所述第i-1个目标端词嵌入的第二向量长度时,通过所述融合层将所述解码后的中间向量的所述第一向量长度增加至所述第二向量长度。
3.根据权利要求1所述的方法,其特征在于,所述机器翻译模型还包括编码器;所述编码器包括m个串联的编码层;所述m个串联的编码层与每一个所述解码器底层串联,且与所述解码器顶层串联;
所述将源端句子的第i个源端词嵌入编码为中间向量,包括:
通过所述m个串联的编码层将所述第i个源端词嵌入编码为所述中间向量。
4.根据权利要求1所述的方法,其特征在于,所述解码器还包括与所述解码器顶层串联的输出层;
所述根据所述解码后的词向量对第i个目标端词语进行概率预测,输出预测结果,包括:
将所述解码后的词向量作为输入数据,通过所述输出层对第i个目标端词语进行概率预测,输出所述预测结果。
5.一种基于机器翻译模型的翻译装置,其特征在于,所述装置中包括机器翻译模型,所述机器翻译模型包括编码器和解码器;
所述编码器,用于将源端句子的第i个源端词嵌入编码为中间向量;
所述解码器,包括:m-1个并联的解码器底层、融合层和1个解码器顶层,所述解码器底层、所述融合层和所述解码器顶层顺序串联,所述融合层包括激活函数,m为正整数;所述m-1个并联的解码器底层,用于将所述第i个源端词嵌入和所述中间向量作为输入数据,对所述中间向量解码得到解码后的中间向量;所述融合层,用于通过所述激活函数将所述解码后的中间向量与目标端句子的第i-1个目标端词嵌入的和向量进行非线性变化,得到融合后的中间向量;所述解码器顶层,用于对所述融合后的中间向量进行解码,得到解码后的词向量;
所述解码器,还用于根据所述解码后的词向量对第i个目标端词语进行概率预测,输出预测结果,i为正整数。
6.根据权利要求5所述的装置,其特征在于,
所述融合层,还用于当所述解码后的中间向量的第一向量长度小于所述第i-1个目标端词嵌入的第二向量长度时,将所述解码后的中间向量的所述第一向量长度增加至所述第二向量长度。
7.根据权利要求5所述的装置,其特征在于,所述编码器包括m个串联的编码层;所述m个串联的编码层与每一个所述解码器底层串联,且与所述解码器顶层串联;
所述m个串联的编码层,用于将所述第i个源端词嵌入编码为所述中间向量。
8.根据权利要求5所述的装置,其特征在于,所述解码器还包括与所述解码器顶层串联的输出层;
所述输出层,用于根据所述解码后的词向量第i个目标端词语进行概率预测,输出所述预测结果。
9.一种计算机设备,其特征在于,所述计算机设备包括处理器和存储器,所述存储器中存储有至少一段程序,所述至少一段程序由所述处理器加载并执行以实现如权利要求1至4任一所述的方法。
10.一种计算机可读存储介质,其特征在于,所述存储介质中存储有至少一段程序,所述至少一段程序由处理器加载并执行以实现如权利要求1至4任一所述的方法。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于腾讯科技(深圳)有限公司;中国科学院计算技术研究所,未经腾讯科技(深圳)有限公司;中国科学院计算技术研究所许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201910533371.9/1.html,转载请声明来源钻瓜专利网。
- 上一篇:一种英语翻译系统
- 下一篇:一种基于时序主题模型的自然语言生成方法