[发明专利]一种翻译处理方法及系统有效
申请号: | 201810555273.0 | 申请日: | 2018-06-01 |
公开(公告)号: | CN108874785B | 公开(公告)日: | 2020-11-03 |
发明(设计)人: | 刘洋;丁延卓;栾焕博;孙茂松;翟飞飞;许静芳 | 申请(专利权)人: | 清华大学;北京搜狗科技发展有限公司 |
主分类号: | G06F40/44 | 分类号: | G06F40/44;G06F40/58;G06F40/279 |
代理公司: | 北京路浩知识产权代理有限公司 11002 | 代理人: | 王莹;吴欢燕 |
地址: | 100084 北京市海*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 翻译 处理 方法 系统 | ||
1.一种翻译处理方法,其特征在于,包括:
获取源语言的语句;
将所述源语言的语句进行编码,得到向量序列,所述向量序列包括由从所述语句分得的各个分词分别转换成的词向量;
根据所述向量序列逐词地预测目标语言中相应的候选词;
根据预测得到的候选词生成目标语言的语句;
其中,在任一所述候选词的预测处理中,从预设的翻译词表中获取多个初选词,根据预先训练的机器翻译模型计算每个初选词的翻译概率,以根据所述翻译概率从所述初选词中选取所述候选词;
所述预先训练的机器翻译模型根据公有翻译模型输出的隐状态和私有翻译模型输出的隐状态建立,所述公有翻译模型根据多种样本语言对训练而成,所述私有翻译模型根据所述源语言和目标语言对应的样本语言对训练而成;
其中,还包括对初选词的公有隐状态进行过滤,具体地,通过以下公式对初选词的公有隐状态进行过滤:
其中,Wo和Ws为过滤层中需要训练的参数矩阵,g为一个门函数,表示第j次从翻译词表中选取的初选词过滤后的公有隐状态,σ()为sigmoid函数;表示第j-1个候选词的词向量,表示第j次从翻译词表中选取的初选词的私有翻译模型的隐状态,表示第j次从翻译词表中选取的初选词的公有翻译模型的隐状态,运算符表示向量的乘法。
2.根据权利要求1所述的翻译处理方法,其特征在于,所述根据所述翻译概率从所述初选词中选取所述候选词,之后还包括:获取所述候选词的词向量。
3.根据权利要求2所述的翻译处理方法,其特征在于,所述机器翻译模型包括公有翻译模型、私有翻译模型和softmax模型;
相应地,所述从预设的翻译词表中获取多个初选词,根据预先训练的机器翻译模型计算每个初选词的翻译概率,以根据所述翻译概率从所述初选词中选取所述候选词,具体为:
从预设的翻译词表中获取若干个词汇作为初选词;
根据所述向量序列和在获取若干个词汇之前预测出的候选词的词向量,计算每个所述初选词的公有翻译模型的隐状态;
根据所述向量序列和在获取若干个词汇之前预测出的候选词的词向量,计算每个所述初选词的私有翻译模型的隐状态;
根据计算得到的所述初选词的公有翻译模型的隐状态和私有翻译模型的隐状态以及在获取若干个词汇之前预测出的候选词的词向量,结合所述softmax模型计算每个初选词的翻译概率;
对计算得到的翻译概率进行排序,将翻译概率最高的初选词选为所述候选词。
4.根据权利要求3所述的翻译处理方法,其特征在于,所述公有翻译模型包括公有编码器、公有注意力模块以及公有解码器;
相应地,所述根据所述向量序列和在获取若干个词汇之前预测出的候选词的词向量,计算每个所述初选词的公有翻译模型的隐状态,具体为:
将所述向量序列逐词输入至所述公有编码器中,输出对应所述向量序列中各词向量的公有隐状态;
将所述初选词与所述向量序列中各词向量之间在公有翻译模型的权重以及所述向量序列中各词向量的公有隐状态输入至所述公有注意力模块,输出所述初选词的公有翻译模型的上下文信息;
将所述在获取若干个词汇之前预测出的候选词的词向量、所述在获取若干个词汇之前预测出的候选词的公有翻译模型的隐状态以及所述初选词的公有翻译模型的上下文信息输入至所述公有解码器,输出所述初选词的公有翻译模型的隐状态。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于清华大学;北京搜狗科技发展有限公司,未经清华大学;北京搜狗科技发展有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201810555273.0/1.html,转载请声明来源钻瓜专利网。
- 上一篇:一种移动翻译设备和音频翻译方法
- 下一篇:机器翻译方法及装置