[发明专利]一种文本语义关系提取方法及系统

权利要求书

1.一种文本语义关系提取方法，其特征在于，

获取文本信息，将文本信息向量化，提取文本局部特征；

将文本局部特征输入至预先训练好的双向LSTM模型，引入注意力机制对双向LSTM模型的输入与输出之间的相关性进行重要度计算，根据重要度确定文本整体特征；

将局部特征和整体特征进行特征融合，通过分类器输出分类结果。

2.根据权利要求1所述的文本语义关系提取方法，其特征在于，所述双向LSTM模型的训练过程为：

获取LSTM训练样本，采集电网调度日检修申请票数据和调度日志，作为LSTM训练样本；

使用LSTM训练样本训练双向LSTM模型：

其中，i_t，f_t，c_t，o_t，h_t分别是LSTM的输入门，遗忘门，记忆，输出门和隐藏状态的变量，g_t表示当前输入的单元状态，σ表示逻辑sigmoid激活函数，tanh表示输出的激活函数，T_D+m+n，n表示用学习到的参数所定义的实数空间RD+m+n到Rn的仿射变换，D表示提取器提取的样本向量维度，m和n分别表示嵌入矩阵和LSTM网络矩阵维度，E表示嵌入矩阵，E∈R^m*K，R表示实数集合，K表示样本词汇量，y_t-1表示前一时刻的语义释义中间变量，表示随机变量，z是上下文向量，z∈R^D；

c_t＝f_t⊙c_t-1+i_t⊙g_t

h_t＝o_ttanh(c_t)

⊙表示元素乘法，c_t-1为注意力模型上一时刻状态。

3.根据权利要求2所述的文本语义关系提取方法，其特征在于，通过下式确定c_t，

其中，

a_tj为注意力机制给所有特征向量赋予的权重，h_j为LSTM神经网络输出的特征向量序列，T表示特征向量总数，j表示第j个特征向量，exp(e_tj)表示以自然常数e为底的指数函数，e_tj表示输出特征值是对齐模型，代表时刻t的输入和时刻j的输出匹配程度的分数，e_tk同理，a表示计算e_tj的函数，v_a为全局的权值，w_a为上一时刻注意力机制的状态的权值，u_a为上一时刻的特征向量的权值。

4.一种文本语义关系提取系统，其特征在于，包括获取模块、确定模块和输出模块；

所述括获取模块，用于获取文本信息，将文本信息向量化，提取文本局部特征；

所述确定模块，用于将文本局部特征输入至预先训练好的双向LSTM模型，引入注意力机制对双向LSTM模型的输入与输出之间的相关性进行重要度计算，根据重要度确定文本整体特征；

所述输出模块，用于将局部特征和整体特征进行特征融合，通过分类器输出分类结果。