[发明专利]一种基于word2vec的短文本表示方法

权利要求书

1.一种基于word2vec的短文本表示方法，其特征在于：包括以下步骤：

S1：输入经过文本预处理的训练文本集，设置word2vec方法参数，训练得到训练文本集对应的词向量集合；

S2：对于每篇文档中的每个词通过词向量之间的余弦距离计算得到该词在整个训练文本集中的一系列相近词；

S3：计算每篇文档中的相近词与文档的余弦距离；

S4：按照余弦距离从大到小排序，最终选取前n个相近词以及对应的余弦距离形成文档的n个相近词和余弦度量；

S5：计算文档中的词和选取的n个相近词在该文档中的权重，形成新的文本表示，输出每一个文档基于word2vec改进后的向量空间表示；

所述步骤S3的具体计算过程如下：

若文档中的某些词具有一致的相近词，则将一致的相近词的余弦距离相加，形成相近词与文档的余弦距离，否则保留原相近词及其与文档中的词的余弦距离：

s(t,d)＝s(t,t₁)+s(t,t₂)+s(t,t₃)+…+s(t,t_n) (1)

其中，t,t₁,t₂,t₃,…,t_n为文档d中的词汇，s(t,t_n)表示词t与文档d中的词汇t_n的余弦度量，s(t,d)表示词t与文档d的余弦度量。

2.根据权利要求1所述的基于word2vec的短文本表示方法，其特征在于：所述步骤S1训练文本集的预处理过程包括：

S1.1：构建用户词典对训练文本进行分词处理和词性标注；

S1.2：根据现有的停用词表去除停用词，并根据词性去除代词、介词、方位词；

S1.3：采用TF、IDF或TF-IDF等方法进行特征选择，降低特征维度。

3.根据权利要求2所述的基于word2vec的短文本表示方法，其特征在于：所述步骤S5计算文档中的词和选取的n个相近词在该文档中的权重的具体过程如下：

其中，W(t,nd)为词t在加入n个相近词后的文档nd中的权重，通过特征权重计算方法TF-IDF计算得到；s(t,d)表示词t与文档d的余弦度量。