[发明专利]一种基于多任务双向长短时记忆网络的隐式句间关系分析方法

摘要

本发明提供一种基于多任务双向长短时记忆网络的隐式句间关系分析方法，包括：获取中文篇章级语义关系语料库，包括隐式句间关系语句和显式句间关系语句；采用多任务学习的方法，以隐式句间关系识别任务为主，显式句间关系识别任务为辅，获得模型输入序列；将主任务和辅任务同时输入到至Bi‑LSTM递归神经网络，通过学习获得隐式句间关系识别模型；对所述隐式句间关系识别模型采用融合词嵌入的方法并引入先验知识，充分利用文本特征，获得更好的识别结果。本发明充分利用了隐式句间关系语句和显式句间关系语句在语义等方面的联系，解决了由于隐式句间关系语句没有较好的特征导致隐式句间关系识别效果不好的问题。

主权项

1.一种基于多任务双向长短时记忆网络(Bidirectional Long Short‑Term Memory，Bi‑LSTM)的隐式句间关系分析方法，上述隐式句间关系分析模块包括：双向长短时记忆神经网络(Bi‑LSTM)是循环神经网络(Recurrent Neutral Network，RNN)的一个拓展，LSTM引入记忆块的概念，通过使用门(gate)控制信息的输入、遗忘和输出，从而有效的减轻RNN出现的梯度消失问题；融合词嵌入用于构建词向量，在模型的输入词向量中不仅加入word2vec的向量表示，同时添加词汇在句子中所对应的词性(Part of Speech，POS)作为一种融合的特征；多任务学习是多个任务同时进行学习，旨在利用任务之间的关联性，通过共同训练的方式提升模型的性能，同时，多任务学习可以间接的扩大训练语料，对语料较少的任务提供了一种可行的解决方案。