[发明专利]一种词语词向量的生成方法以及相似词的确定方法

说明书

本申请提供了一种词语词向量的生成方法以及相似词的确定方法，所述生成方法包括：获取样本训练语料以及词间关系集，构建样本语料库；确定样本语料库中各个样本词语的初始词向量，得到初始语料向量集；按照词间关系集中各个词语相关关系的预设训练顺序，依次更新初始语料向量集中对应样本词语的初始词向量，并迭代训练所述初始语料向量集，得到所述各个样本词语的目标词向量，其中，所述词语相关关系包括弱关系，强关系以及相等关系；基于各个样本词语的目标词向量，构建目标语料向量集。这样，本申请通过在训练过程中，引入了弱、强及相等关系词向量替换规则信息，使得训练得到的词向量能有效的蕴涵关系信息，从而提高了词向量的准确度。

技术领域

本申请涉及文本处理技术领域，尤其是涉及一种词语词向量的生成方法以及相似词的确定方法。

背景技术

词语间相似度的计算是使用计算机处理文本的一种常用方法。在计算词语间相似度的实际场景中又分为多类：有语料、没语料、多语料、少语料。(所谓语料即包含词语的文档)。在含有大量语料的场景里面，以Word2vec为代表的词向量模型以是一种公知的有效方法：通过分词预处理技术将语料库分词，然后使用预处理后的语料训练得到词向量，最后根据词向量间的相似度得到词语间的相似度。但是，当语料少的时候，虽然某些词语互为相似词语，但训练得到的词向量并不能很好的表现出词语之间的相关性，从而也导致训练结果准确度的偏低。

发明内容

有鉴于此，本申请的目的在于提供一种词语词向量的生成方法以及相似词的确定方法，通过在训练词语词向量的过程中，引入了弱关系、强关系以及相等关系词向量替换规则信息，依次更新训练向量集，使得训练得到的词语的目标词向量能有效的蕴涵关系信息，从而提高了词向量的准确度。

本申请实施例提供了一种词语词向量的生成方法，所述生成方法包括：

获取样本训练语料以及词间关系集，构建所述样本训练语料对应的样本语料库；

确定所述样本语料库中各个样本词语的初始词向量，得到所述样本语料库的初始语料向量集；

按照所述词间关系集中各个词语相关关系的预设训练顺序，依次更新所述初始语料向量集中对应样本词语的初始词向量，并迭代训练所述初始语料向量集，得到所述各个样本词语的目标词向量，其中，所述词语相关关系包括弱关系、强关系以及相等关系；

基于所述各个样本词语的目标词向量，构建所述样本语料库的目标语料向量集。

进一步的，通过以下步骤构建样本语料库：

对所述样本训练语料进行分词处理，将所述样本训练语料拆分为多个样本词语；

基于所述多个样本词语构建所述样本语料库。

进一步的，所述确定所述样本语料库中各个样本词语的初始词向量，得到所述样本语料库的初始语料向量集，包括：

将所述样本语料库中各个样本词语进行向量化处理，得到所述样本语料库中各个样本词语的原始向量；

使用Word2vec模型，对所述样本语料库中各个样本词语的原始向量进行训练，得到所述样本语料库中各个样本词语的初始词向量；

基于所述各个样本词语的初始词向量，构建所述样本语料库的初始语料向量集。

进一步的，所述按照所述词间关系集中各个词语相关关系的预设训练顺序，依次更新所述初始语料向量集中对应样本词语的初始词向量，并迭代训练所述初始语料向量集，得到所述各个样本词语的目标词向量，其中，所述词语相关关系包括弱关系、强关系以及相等关系，包括：

根据所述词间关系集的指示，从所述初始语料向量集中确定出互为弱关系的多组弱关系词组中的每个样本词语的初始词向量；