[发明专利]一种数据处理方法及装置有效
申请号: | 201910469354.3 | 申请日: | 2019-05-31 |
公开(公告)号: | CN110175338B | 公开(公告)日: | 2023-09-26 |
发明(设计)人: | 李长亮;王怡然;郭馨泽;唐剑波 | 申请(专利权)人: | 北京金山数字娱乐科技有限公司;成都金山数字娱乐科技有限公司 |
主分类号: | G06F40/42 | 分类号: | G06F40/42;G06N3/02;G06N3/048 |
代理公司: | 北京智信禾专利代理有限公司 11637 | 代理人: | 吴肖肖 |
地址: | 100085 北京市海淀*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本申请提供一种数据处理方法及装置,用于解码器,所述解码器包括至少一个解码层;对于每个解码层,所述方法包括:根据输入的参考待解码向量进行自注意力计算,得到第一子层向量;将第一子层向量以及输入的编码向量进行多头注意力计算,得到第二子层向量;将所述参考待解码向量和所述第二子层向量进行融合,得到融合向量;将融合向量进行线性变换,得到输出的解码向量,从而实现高阶子层和低阶子层的向量融合,有效利用高阶子层蕴含的语义信息和低阶子层蕴含的语法信息,从而保证了模型翻译效果的有效提升。 | ||
搜索关键词: | 一种 数据处理 方法 装置 | ||
【主权项】:
1.一种数据处理方法,其特征在于,用于解码器,所述解码器包括至少一个解码层;对于每个解码层,所述方法包括:根据输入的参考待解码向量进行自注意力计算,得到第一子层向量;将第一子层向量以及输入的编码向量进行多头注意力计算,得到第二子层向量;将所述参考待解码向量和所述第二子层向量进行融合,得到融合向量;将融合向量进行线性变换,得到输出的解码向量。
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京金山数字娱乐科技有限公司;成都金山数字娱乐科技有限公司,未经北京金山数字娱乐科技有限公司;成都金山数字娱乐科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/201910469354.3/,转载请声明来源钻瓜专利网。
- 上一篇:一种文本展示方法及装置
- 下一篇:一种S型加减速的最优时间分配方法及装置