[发明专利]基于短语向量的关键词抽取方法及系统

权利要求书

1.一种基于短语向量的关键词抽取方法，其特征在于，所述方法包括：

S1、对文本进行分词并标注词性，保留n元组得到候选词项集；

S2、通过自编码器为候选词项构建短语向量；

S3、确定所述文本的主题，计算候选词项与主题向量的相似度，将所述相似度作为所述候选词项的主题权重；其中，将主题词项集中所有词项对应的短语向量的平均值，作为文档的主题向量用于表示整篇文档的主题：

其中，是主题词项t_i对应的短语向量表示；

S4、通过TextRank算法，从所述候选词项集中获取关键词；

其中，在所述步骤S4的TextRank算法中还包括迭代计算候选词项的权重，直到达到最大迭代次数，权重计算公式为：

其中，表示候选词项c_j的权重，d为阻尼系数；是候选词项c_j的主题权重，w_jk是候选词项c_j和候选词项c_k之间边的权重，w_kp是候选词项c_k和候选词项c_p之间边的权重，表示与候选词项c_j相连的候选词项的集合，是中的元素，表示与候选词项c_k相连的候选词项的集合，是中的元素，表示候选词项c_k的权重；

其中，主题权重的计算方法为：对每个候选词项c_j，计算该候选词项和文档d_i的主题向量之间的余弦距离，作为主题权重。

2.根据权利要求1所述的方法，其特征在于，所述步骤S2中的自编码器包括编码器和解码器，编码器由双向LSTM层和全连接层组成，解码部分由单向LSTM层和softmax层组成。

3.根据权利要求2所述的方法，其特征在于，所述步骤S2中的自编码器的训练方法包括以下步骤：

S21、选取训练样本，获取候选词项；

S22、对候选词项c_j＝(x₁,x₂,…,x_T)，在编码器中，使用双向LSTM从前后两个方向分别进行计算：

其中，和分别为t(t＝1,2,…,T)时刻从左向右和从右向左两个方向上的隐藏层状态和细胞状态，和分别为t-1时刻从左向右和从右向左两个方向上的隐藏层状态和细胞状态，x_t为t时刻输入的候选词项中的单词，T表示候选词项中单词的数量；

S23、在编码器中，通过公式计算得到ES_T：

h′_T＝f(W_hh_T+b_h)

C′_T＝f(W_cC_T+b_c)

其中，为连接符，W_h、b_h、W_c、b_c代表全连接网络中的参数矩阵和偏置，f表示全连接网络中的激活函数ReLU，ES_T是h′_T和C′_T组成的一个元组；

S24、在解码器部分，以ES_T为初始状态使用单向LSTM进行解码：

其中，z_t是解码器在t时刻的隐藏层状态，z_t-1为t-1时刻的隐藏层状态，ES_T为编码器状态，为t-1时刻输出的候选词项中的单词；

S25、根据z_t估算当前单词的概率

其中，softmax为归一化函数，W_sz_t+b_s对每个可能的输出单词进行打分，W_s和b_s分别表示softmax函数的权重值和偏置值；

S26、当训练过程中损失函数L不断变小最终趋于稳定时，获得编码器的参数W_h、b_h、W_c、b_c，以及解码器的参数W_s、b_s，从而确定自编码器；其中，损失函数L的计算公式为：