[发明专利]一种语句处理方法及装置、电子设备、计算机存储介质在审
申请号: | 202010611110.7 | 申请日: | 2020-06-29 |
公开(公告)号: | CN113935311A | 公开(公告)日: | 2022-01-14 |
发明(设计)人: | 蒋忠强;赵冬梅 | 申请(专利权)人: | 中移(苏州)软件技术有限公司;中国移动通信集团有限公司 |
主分类号: | G06F40/211 | 分类号: | G06F40/211;G06F40/56;G06F40/58;G06N3/08 |
代理公司: | 北京派特恩知识产权代理有限公司 11270 | 代理人: | 姚璐;张颖玲 |
地址: | 215163 江苏*** | 国省代码: | 江苏;32 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 语句 处理 方法 装置 电子设备 计算机 存储 介质 | ||
1.一种语句处理方法,其特征在于,所述方法包括:
在利用神经机器翻译模型将第一源语言语句翻译为目标语言语句的过程中,确定所述第一源语言语句中的目标词语在所述过程中的解码阶段生成的至少一个候选单词,并确定所述候选单词的时态;
利用时态预测模型对所述第一源语言语句中的目标词语的时态进行预测,确定所述第一源语言语句中的目标词语的预测时态;
基于所述候选单词的时态以及所述预测时态确定所述候选单词的概率。
2.根据权利要求1所述的方法,其特征在于,所述候选单词具有对应的初始概率值,所述基于所述候选单词的时态以及所述预测时态确定所述候选单词的概率,包括:
在所述候选单词的时态与所述预测时态不一致的情况下,将所述候选单词的初始概率值的K倍确定为所述候选单词的概率;其中,K为大于零且小于1的数值;
在所述候选单词的时态与所述预测时态一致的情况下,将所述候选单词的初始概率值确定为所述候选单词的概率。
3.根据权利要求1所述的方法,其特征在于,所述时态预测模型包括时态标注模型以及时态生成模型,所述利用时态预测模型对所述第一源语言语句中的目标词语的时态进行预测,确定所述第一源语言语句中的目标词语的预测时态,包括:
在利用神经机器翻译模型将第一源语言语句翻译为目标语言语句的过程中,确定所述过程中的编码阶段生成的中间向量;
利用所述时态标注模型对所述中间向量进行词性标注,生成所述第一源语言语句的词性标注向量;
将所述词性标注向量输入至所述时态生成模型,确定所述时态生成模型顶层的隐状态。
4.根据权利要求3所述的方法,其特征在于,所述时态预测模型还包括时态注意力模型,所述利用时态预测模型对所述第一源语言语句中的目标词语的时态进行预测,确定所述第一源语言语句中的目标词语的预测时态,还包括:
在对所述第一源语言语句中的目标词语进行解码阶段的每个解码时间步,将所述时态生成模型顶层的隐状态输入至所述时态注意力模型,得到所述第一源语言语句中的目标词语的第一上下文向量;所述第一上下文向量用于表示与该解码时间步解码的目标词语的时态预测相关的第一源语言语句信息;
通过全连接网络模型将所述时态生成模型顶层的隐状态与所述第一上下文向量组合,得到该解码时间步解码的目标词语的第一时态注意力隐状态。
5.根据权利要求4所述的方法,其特征在于,所述神经机器翻译模型包括传统注意力模型,所述利用时态预测模型对所述第一源语言语句中的目标词语的时态进行预测,确定所述第一源语言语句中的目标词语的预测时态,还包括:
在对所述第一源语言语句中的目标词语进行解码阶段的每个解码时间步,将所述神经机器翻译模型的解码网络顶层的隐状态输入至所述传统注意力模型,得到所述第一源语言语句中的目标词语的第二上下文向量;所述第二上下向量用于表示与该解码时间步解码的目标词语所在的第一源语言语句的信息;
基于所述第二上下文向量确定所述第一源语言语句的目标词语为主动词的概率。
6.根据权利要求5所述的方法,其特征在于,所述利用时态预测模型对所述第一源语言语句中的目标词语的时态进行预测,确定所述第一源语言语句中的目标词语的预测时态,还包括:
基于第二源语言语句中的目标词语的时态隐状态以及所述第一时态注意力隐状态确定所述第一源语言语句中的目标词语的第二时态注意力隐状态;所述第二源语言语句为所述第一源语言语句的前一句语句。
7.根据权利要求6所述的方法,其特征在于,所述利用时态预测模型对所述第一源语言语句中的目标词语的时态进行预测,确定所述第一源语言语句中的目标词语的预测时态,还包括:
若所述第一源语言语句中的目标词语为主动词的概率大,则将所述第二源语言语句中的目标词语的时态隐状态确定为所述第一源语言语句中的目标词语的最终时态注意力隐状态;或者,将所述第二时态注意力隐状态确定为所述第一源语言语句中的目标词语的最终时态注意力隐状态。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于中移(苏州)软件技术有限公司;中国移动通信集团有限公司,未经中移(苏州)软件技术有限公司;中国移动通信集团有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202010611110.7/1.html,转载请声明来源钻瓜专利网。
- 上一篇:固体酸催化剂及其制备方法和烷基化反应的方法
- 下一篇:电子设备及摄像头组件