[发明专利]序列转换方法及装置有效
申请号: | 201610698139.7 | 申请日: | 2016-08-19 |
公开(公告)号: | CN107766319B | 公开(公告)日: | 2021-05-18 |
发明(设计)人: | 涂兆鹏;刘晓华;吕正东;李航 | 申请(专利权)人: | 华为技术有限公司 |
主分类号: | G06F40/205 | 分类号: | G06F40/205;G06F40/58;G06N3/02 |
代理公司: | 暂无信息 | 代理人: | 暂无信息 |
地址: | 518129 广东*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 序列 转换 方法 装置 | ||
1.一种序列转换方法,其特征在于,包括:
获取源端序列;
获取参考上下文向量;
将所述源端序列转换为源端上下文向量;
根据所述参考上下文向量和所述源端上下文向量获取权重向量;
使用所述权重向量对所述源端上下文向量和所述参考上下文向量进行加权;
使用加权后的源端上下文向量和加权后的参考上下文向量预测与所述源端上下文向量对应的目标端上下文向量;
根据所述目标端上下文向量获取目标端序列。
2.根据权利要求1所述的方法,其特征在于,在所述目标端上下文向量是所述源端序列对应的第一个目标端上下文向量时,所述参考上下文向量是初始目标端上下文向量;
在所述目标端上下文向量不是所述源端序列对应的第一个目标端上下文向量时,所述参考上下文向量是已经获得的目标端上下文向量。
3.根据权利要求1或2所述的方法,其特征在于,所述方法还包括:
使用与所述源端上下文向量对应的目标端上下文向量对所述参考上下文向量进行更新。
4.根据权利要求1或2所述的方法,其特征在于,所述根据所述参考上下文向量和所述源端上下文向量获取权重向量包括:
通过如下函数获得所述权重向量:
zi=σ(Wz e(yi-1)+Uzsi-1+Czci)
其中,zi是权重向量,σ是激活函数,e(yi-1)是所述参考上下文向量中的词向量,si-1是所述参考上下文向量中的中间状态,ci是所述源端上下文向量,Wz,Uz和Cz是激活函数σ的模块参数,i表示向量的序号。
5.根据权利要求4所述的方法,其特征在于,所述模块参数Wz,Uz和Cz通过从训练数据中学习获得。
6.根据权利要求4所述的方法,其特征在于,所述激活函数为sigmoid函数
7.根据权利要求6所述的方法,其特征在于,所述模块参数Wz,Uz和Cz通过最大化训练序列对中目标端序列的似然值获得,具体通过如下训练函数训练获得:
其中,N是训练序列集合中训练序列对的数量,Xn是训练序列对中的源端序列,Yn是训练序列对中的目标端序列,P是序列转换装置的参数,所述序列转换装置用于执行所述训练函数。
8.根据权利要求1或2所述的方法,其特征在于,所述权重向量的维度与所述目标端上下文向量的维度相同。
9.根据权利要求1或2所述的方法,其特征在于,所述权重向量中每一个元素均为大于0且小于1的实数。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于华为技术有限公司,未经华为技术有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201610698139.7/1.html,转载请声明来源钻瓜专利网。
- 上一篇:一种关键词的抽取方法、装置及电子设备
- 下一篇:工业应用的操纵手柄