[发明专利]跨语言词向量生成方法、装置、电子设备及存储介质

权利要求书

1.一种跨语言词向量生成方法，其特征在于，所述方法包括：

获取平行语料对，对所述平行语料对进行分词处理，得到分词语料对；

利用所述分词语料对构建平行语料网络；

对所述平行语料网络中的语料进行随机游走，得到混合语料序列；

汇总所述平行语料对及所述混合语料序列，得到语料训练集，利用所述语料训练集训练预构建的词向量模型，得到跨语言词向量生成模型；

获取跨语言语料，利用所述跨语言词向量生成模型生成所述跨语言语料的跨语言词向量；

其中，所述对所述平行语料网络中的语料进行随机游走，得到混合语料序列，包括：根据预设的转移概率对所述平行语料网络中各网络节点的关键词进行随机转移；根据所述转移概率计算各网络节点的关键词的未归一化概率，并基于所述未归一化概率完成所有网络节点的随机游走，得到所述混合语料序列；

所述根据所述转移概率计算各网络节点的关键词的未归一化概率，包括：

利用下述转移概率计算所述各网络节点的关键词的未归一化概率π_vx：

π_vx＝α_pq(t,x)*β_o(t,x)*β_o(v,x)

其中，p和q均为超参数，α_pq(t,x)为关键词t与x之间的转移概率、d_tx为关键词t与x之间的最短路径，t-v-x为关键词的游走轨迹，o为超参数，C_tx代表着关键词t与关键词x是否属于同一种语言，C_vx代表着关键词v与关键词x是否属于同一种语言，β_o(t,x)表示关键词t与关键词x之间的转移权重，β_o(v,x)表示关键词v与关键词x之间的转移权重。

2.如权利要求1所述的跨语言词向量生成方法，其特征在于，所述对所述平行语料对进行分词处理，得到分词语料对，包括：

对所述平行语料对中的语料进行分词处理，得到分词结果；

根据预设的停用词去除规则从所述分词结果中筛选出一个或多个关键词，汇总所有筛选出来的关键词，得到所述分词语料对。

3.如权利要求1所述的跨语言词向量生成方法，其特征在于，所述利用所述分词语料对构建平行语料网络，包括：

确定所述分词语料中的所有关键词作为网络节点；

在任意所述网络节点间构建连边，汇总所有网络节点及连边，得到所述平行语料网络。

4.如权利要求1至3中任意一项所述的跨语言词向量生成方法，其特征在于，所述利用所述语料训练集训练预构建的词向量模型，得到跨语言词向量生成模型，包括：

利用预设大小的滑动窗口选取所述语料训练集中的训练样本；

对所述训练样本进行序列编码，得到训练编码，利用所述训练编码更新所述词向量模型中隐层的权重矩阵；

利用所述权重矩阵计算所述训练样本中各词语的预测概率，根据所述预测概率调整预设的目标函数，直至所述目标函数收敛，生成所述跨语言词向量生成模型。

5.如权利要求4所述的跨语言词向量生成方法，其特征在于，所述对所述训练样本进行序列编码，得到训练编码，利用所述训练编码更新所述词向量模型中隐层的权重矩阵，包括：

利用预设的频率公式计算所述训练样本中词语的出现频率；

基于所述出现频率选取预设个数的词语作为负样本；

利用预设的编码方法对所述负样本进行序列编码，得到所述训练编码，并利用所述训练编码更新所述词向量模型中隐层的权重矩阵。