[发明专利]一种文本语义关系提取方法及系统

说明书

本发明公开了一种文本语义关系提取方法及系统，获取文本信息，将文本信息向量化，提取文本局部特征；将文本局部特征输入至预先训练好的双向LSTM模型，引入注意力机制对双向LSTM模型的输入与输出之间的相关性进行重要度计算，根据重要度获取文本整体特征；将局部特征和整体特征进行特征融合，通过分类器输出分类结果。优点：基于长短期记忆模型（LSTM）网络，并引入注意力机制算法，采用LSTM模型来避免CNN和RNN的长距离依赖问题，并采用注意力机制更好地考虑了模型输入和输出的相关性问题，充分提取文本局部特征对实体概念进行提取，提升电网检修本体概念提取的速度和准确率。

技术领域

本发明涉及一种文本语义关系提取方法及系统，属于本体概念提取技术领 域。

背景技术

随着网络技术的快速发展，互联网为人们创造了一个很好的交互平台。如 何有效地在海量的网络大数据中为用户提取出有价值的信息，也面临着巨大的 挑战。基于语义的信息处理能有效地解决上述问题。作为一种共享的概念化模 型，本体在语义分析中起着至关重要的作用。领域本体学习是一种针对特定的 领域自动的获取该领域本体中的概念和概念间关系的学习方法，随着电网行业 与互联网信息技术的迅速发展，电网检修对领域本体的自动学习提出了更高、 更大的需求。

在我国电网检修领域，一些研究人员已将本体和语义网技术应用于电网检 修应急管理领域，通过“领域词典”构建了应急决策领域本体，该本体以领域 本体为基础，通过基于语义查询转换和语义检索与推理实现了应急检修初始方 案的生成，提高了应急决策的智能性。

随着时代的进步和发展，现有的领域本体已经不足以支持电网检修领域知 识的表达，丰富领域本体知识并提升本体提取的准确率已经成为一个迫切需要 解决的问题。另外，手工进行本体构建是一个既费时又低效的工作，如何有效 的提高本体自动更新的效率是当前需要克服的技术难题。

发明内容

本发明所要解决的技术问题是克服现有技术的缺陷，提供一种文本语义关 系提取方法及系统。

为解决上述技术问题，本发明提供一种文本语义关系提取方法，

获取文本信息，将文本信息向量化，提取文本局部特征；

将文本局部特征输入至预先训练好的双向LSTM模型，引入注意力机制对 双向LSTM模型的输入与输出之间的相关性进行重要度计算，根据重要度确定 文本整体特征；

将局部特征和整体特征进行特征融合，通过分类器输出分类结果。

进一步的，所述双向LSTM模型的训练过程为：

获取LSTM训练样本，采集电网调度日检修申请票数据和调度日志，作为 LSTM训练样本；电网调度日检修申请票和调度日志可以从调度系统中获得，针 对一张检修票或调度日志，应该收集的数据包括：设备信息、设备参数、故障 信息、检修方式等；

使用LSTM训练样本训练双向LSTM模型：

其中，i_t，f_t，c_t，o_t，h_t分别是LSTM的输入门，遗忘门，记忆，输出门 和隐藏状态的变量，g_t表示当前输入的单元状态，σ表示逻辑sigmoid激活函数， tanh表示输出的激活函数，T_D+m+n，n表示用学习到的参数所定义的实数空间 RD+m+n到Rn的仿射变换，D表示提取器提取的样本向量维度，m和n分别 表示嵌入矩阵和LSTM网络矩阵维度，E表示嵌入矩阵，E∈R^m*K，R表示实数 集合，K表示样本词汇量，y_t-1表示前一时刻的语义释义中间变量，表示随机 变量，z是上下文向量，z∈R^D；