[发明专利]基于降维桶模型的文本翻译方法及装置

说明书

本发明公开了一种基于降维桶模型的文本翻译方法及装置，涉及人工智能技术领域，主要目的在于能够通过引入降维桶算法，解决NLP翻译任务中长文本深度语义传递的问题，通过降低计算复杂度，从而扩充单次输入文本长度，提高翻译结果准确性和翻译效率。所述方法包括：接收文本翻译请求，所述请求中携带有待翻译文本数据；通过降维桶算法对所述待翻译文本数据进行处理，将输出的置信度最高的词语确定为文本翻译结果；利用所述文本翻译结果响应所述文本翻译请求。本发明适用于基于降维桶模型的文本翻译。

技术领域

本发明涉及人工智能技术领域，特别是涉及一种基于降维桶模型的文本翻译方法及装置。

背景技术

机器翻译是自然语言处理的一个分支，目前来说机器翻译主要用应用于后台工作，在机器人相关领域主要负责不同语种之间的翻译。机器翻译的技术从最初的根据机器翻译的seq2seq，到Bidaf，mlstm和r-net等依靠RNN为基础的模型和依靠transformer的端对端模型，18年底bert模型在多个任务中全面超越传统模型。模型的升级带来的是性能的优化以及准确率的提高。

目前，通常以Bert模型作为机器翻译模型。然而，Bert模型本身存在天然缺陷，即MASK机制下，掩码词语是相互独立的，丢失了深层语义；另外，在长文本任务中，模型的断句不合理等，也会导致深层语义无法通过长文本传递的问题。从而造成翻译结果准确性差，翻译效率较低。

发明内容

有鉴于此，本发明提供一种基于降维桶模型的文本翻译方法及装置，主要目的在于能够通过引入降维桶算法，解决NLP翻译任务中长文本深度语义传递的问题，通过降低计算复杂度，从而扩充单次输入文本长度，提高翻译结果准确性和翻译效率。

依据本发明一个方面，提供了一种基于降维桶模型的文本翻译方法，包括：

接收文本翻译请求，所述请求中携带有待翻译文本数据；

通过降维桶算法对所述待翻译文本数据进行处理，将输出的置信度最高的词语确定为文本翻译结果；

利用所述文本翻译结果响应所述文本翻译请求。

进一步地，所述通过降维桶算法对所述待翻译文本数据进行处理，将输出的置信度最高的词语确定为文本翻译结果，包括：

利用预先训练的降维桶模型对所述带翻译文本数据进行处理，将输出的置信度最高的词语确定为文本翻译结果。

进一步地，所述利用预先训练的降维桶模型对所述待翻译文本数据进行处理，将输出的置信度最高的词语确定为文本翻译结果，包括：

根据获取的输入向量进行归一化处理得到注意力分数，并利用所述注意力分数划分降维桶结构；

利用预设不同数量级的注意力分数进行降维桶结构补充；

利用降维算法对所述降维桶结构进行降维处理；

对降维处理得到的注意力分数进行共享权重更新，得到共享的注意力分数，并经过归一化处理，输出置信度最高的词语作为文本翻译结果。

进一步地，所述通过降维桶注意力模型对所述待翻译文本数据进行处理之前，所述方法还包括：

利用预设的词向量算法，将待翻译文本中的词语转换为词向量。

进一步地，所述利用预设的词向量算法，将带翻译文本中的词语转换为词向量之前，所述方法还包括：

根据预设的位置编码算法以及所述词向量，得到位置编码向量，并将所述词向量与位置向量拼接为输入向量。

进一步地，所述方法还包括：

对所述输入向量进行因式分解处理，得到所述输入向量的双向信息。