[发明专利]一种基于Doc2vec的相似实体挖掘方法

权利要求书

1.一种基于Doc2vec的相似实体挖掘方法，其特征在于，包括以下步骤：

步骤1，对通用语料进行分词，使用Skip-gram模型计算词向量，该模型的目标函数是

Jθ=1TΣt=1TΣ-n≤j≤n,j≠0log p(wt+|wt)]]>

其中，p(w_t+j|w_t)表示在文本中，已知位置t的词语是w_t时，位置t+j的词语是w_t+j的后验概率，通过softmax函数求得

p(wt+j|wt)=exp(vwtTvwt+j′)Σwi∈Vexp(vwtTvwt+j′)]]>

其中，V表示所有词语组成的词汇表，表示词语w_i在嵌入层的向量表示，为其转置，表示词语w_i的在输出层的向量表示；使用Adam优化器对目标函数进行迭代优化，使用hierarchical softmax方法加速模型的训练；

步骤2，对实体描述文档进行分词与词性标注，并使用TF-IDF算法计算文档关键词及权重，词语w_i在文档d_j中的权重

weight_i，j＝TF_i，j×IDF_i

其中，TF_i，j表示词频，即词语i在文档j中的出现的次数，DF_i表示文档频率，即包含词语i的文档的个数，IDF为DF的对数的倒数

IDFi=1log(DFi)]]>

通过词语在文档中的位置position_i，j与词语词性POS对权重进行修正

weight′_i，j＝weight_i，j×position_i，j×POS

计算出每篇文档中每个词的权重weight′_i，j后，对权重按从大到小排序，取topK个词作为文档关键词；

步骤3，根据步骤1中词向量与步骤2中文档关键词及权重，计算文档向量并进行归一化，其中，文档向量的值由其topK个关键词集合Key_dj中词语的向量加权求得

vdj=Σwi∈Keydjweighti,j′*vwi]]>

对文档向量进行归一化基于以下公式：

vdj,=vdjvdjTvdj]]>

上式中与其转置与相乘得到该向量的长度，用该向量除以其长度得到长度为1且方向与之前相同的归一化之后的文档向量

步骤4，使用文档向量，进行相似实体挖掘，实体的相似性通过实体对应的文档向量的欧式距离表示，向量a与向量b的欧式距离为

(a-b)^T(a-b)

使用以上的欧式距离计算公式，文档d_i与d_j的欧式距离为

(di,dj)=(vdi,norm-vdj,norm)T(vdi,norm-vdj,norm)]]>

的模为1，因此distance(d_i，d_j)在[0，2]间，通过欧式距离计算出位于[0，1]之间的相似性

similarity(di,dj)=1-distance(di,dj)2.]]>