[发明专利]基于注意力机制的文本查重方法、装置、设备及存储介质

权利要求书

1.一种基于注意力机制的文本查重方法，其特征在于，包括以下步骤：

对接收到的待查重语料进行预处理，获得所述待查重语料的词向量；

通过预先构建的注意力模型对所述词向量进行处理，获得所述待查重语料的目标语言词向量；

根据各个目标语言词向量之间的相似度，从所述目标语言词向量中选择至少一个词向量作为关键词向量；

计算以所述关键词向量为中心的预设的窗口内的目标语言词向量的贡献率；

根据所述预设的窗口内的目标语言词向量及其贡献率，将所述预设的窗口内的目标语言词向量进行相似度的拼接；

对拼接后的目标语言词向量与目标语言语料进行相似度计算，获得所述待查重语料的查重结果；

所述方法还包括：

采用预先采集的源语言对应的第一样本语料、目标语言对应的第二样本语料对预先构建的循环神经网络进行模型训练，构建所述注意力模型；其中，所述循环神经网络包括注意力机制；

所述计算以所述关键词向量为中心的预设的窗口内的目标语言词向量的贡献率，具体包括：

计算所述预设的窗口内的第k个目标语言词向量对所述关键词向量的贡献率；

所述计算所述预设的窗口内的第k个目标语言词向量对所述关键词向量的贡献率，具体包括：

根据公式(1)，计算第k个目标语言词向量对所述关键词向量的贡献率；

其中，w_t表示2D+1长度的窗口内的关键词向量，w_k表示2D+1长度的窗口内的第k个目标语言词向量。

2.如权利要求1所述的基于注意力机制的文本查重方法，其特征在于，所述对接收到的待查重语料进行预处理，获得所述待查重语料的词向量，具体包括：

对接收到的待查重语料进行分词；

将分词后的待查重语料进行编码，获得所述待查重语料的词向量。

3.如权利要求1所述的基于注意力机制的文本查重方法，其特征在于，所述根据各个目标语言词向量之间的相似度，从所述目标语言词向量中选择至少一个词向量作为关键词向量，具体包括：

将第i个目标语言词向量与其他目标语言词向量进行相似性计算，得到第i个目标语言词向量与其他目标语言词向量的相似度；

将第i个目标语言词向量与其他目标语言词向量的相似度进行累加计算，得到第i个目标语言词向量的综合相似度；

根据所述目标语言词向量的综合相似度，对所述目标语言词向量进行排序；

提取位于排序列表前N个目标语言词向量，作为关键词向量；其中，N≥1。

4.如权利要求1所述的基于注意力机制的文本查重方法，其特征在于，所述根据所述预设的窗口内的目标语言词向量及其贡献率，将所述预设的窗口内的目标语言词向量进行相似度的拼接，包括：

根据第k个目标语言词向量对所述关键词向量的贡献率，对第k个目标语言词向量赋权；

将赋权后的目标语言词向量进行相似度的拼接。