[发明专利]跨领域关键词提取方法

权利要求书

1.一种跨领域关键词提取方法，其特征在于，包括：

构建基于主题的对抗神经网络，该基于主题的对抗神经网络使用基于主题的编码器对源领域和目标领域的文本基于主题进行编码，并引入对抗学习来与双向自编码器来确保基于主题的编码器学习到的特征与领域无关以及保留目标领域的私有特征，最后由主题的对抗神经网络中的关键词标注器结合基于主题的编码器的输出，完成关键词提取；

在训练阶段，不断优化基于主题的对抗神经网络内的各部分参数；

在测试阶段，将目标领域的文本输入至训练好的基于主题的对抗神经网络，从而提取出关键词；

其中，引入对抗学习来确保基于主题的编码器学习到的特征与领域无关，其通过带有对抗损失函数的领域判别器来实现；

所述带有对抗损失函数的领域判别器使用卷积神经网络来实现；

卷积神经网络输入基于主题的编码器输出的主题特征向量序列其中d_h是LSTM细胞单元的大小；对该主题特征向量序列使用带有一个过滤器窗口大小为c个单词的卷积操作得到的新的特征向量如下：

q＝f(W_q*h^z+b_q)

其中，*是卷积操作，f是非线性的激活函数；

最后，使用时间上的最大值池化操作来取它的最大值：

以上过程是使用一个过滤器，通过使用多个过滤器W_q以及多个窗口大小c来得到向量序列的多个特征；

对主题特征向量序列h^z′做相同的处理，得到多个特征；

在得到的这些特征上，使用softmax层来预测领域标签d∈{0,1}，其中，0，1分别表示源领域和目标领域；

领域判别器的目标是区分出源领域和目标领域样本的领域特征以及最小化下面的目标函数：

其中，是源领域的有标签样本数目，是源领域的无标签样本数目，N_t是目标领域的无标签样本数目，是预测的第j个样本的领域标签的概率，d_j是正确的领域标签。

2.根据权利要求1所述的一种跨领域关键词提取方法，其特征在于，所述基于主题的编码器，包括双向长短期记忆网络和主题注意力机制模块；其中：

对于源领域文本对应的词表x＝(x₁,x₂,…,x_n)，其中n是文本的长度；首先使用WordEmbedding的方法把文本映射成向量形式E＝(e₁,e₂,…,e_n)，再使用双向长短期记忆网络对向量序列E进行编码，向量e_i在两个方向的隐向量为：

最终向量e_i的隐向量表示为：

LSTM细胞单元为：

i_i＝σ(W_xie_i+W_hih_i-1+b_i)

f_i＝σ(W_xfe_i+W_hfh_i-1+b_f)

o_i＝σ(W_xoe_i+W_hoh_i-1+b_o)

h_i＝o_i⊙φ(c_i)

其中，i,f,o,c分别是输入门，输出门，遗忘门和记忆门；σ是sigmoid激活函数是相应门的权重、偏置，W_x*为相应门的权重，W_h*为对应上一时刻的权重，b_*为偏置，

对于目标领域文本对应的词表x′做相同的处理，最终向量e_i′的隐向量记为h_i′；

之后，使用主题注意力机制模块来考虑文本中每个词与主题的联系：

首先，使用预训练的LDA模型计算源领域中文档的主题分布来得到主题向量z；

然后，衡量隐向量h_i与主题向量z相关性的门t_i：

t_i＝tanh(W_zh_i+U_zz+b_z)

上式中，W_z、U_z、b_z是参数矩阵；

基于主题的特征向量表示如下：

从而得到源领域文本对应的词表x所对应的主题特征向量序列

对于目标领域做相同的处理，得到目标领域文本对应的词表x′所对应的主题特征向量序列