[发明专利]一种层级递归神经网络解码器及解码方法

说明书

本发明公开了一种层级递归神经网络解码器及解码方法，其中，该解码器根据层级递归神经网络划分层级，在顶层设置一个内部解码单元；在除顶层之外的每个层级均设置一个共轭解码单元；共轭解码单元包括边缘判断分类器、内部解码单元和内部编码单元；其中，边缘判断分类器用于感知所在层级的划分边界；内部编码单元对来自于下一层的输入进行编码，并在到达当前层的层级的划分边界时，向当前层的上一层传递编码信息；内部解码单元根据上一层的输入、内部编码单元下一层的输出以及内部解码器的隐藏状态，对内部解码单元下一层的输出进行预测。该解码器中的可以很好地完成输出“半结构化数据”的任务。

技术领域

本发明涉及一种层级递归神经网络解码器，同时涉及基于该解码器的解码方法，属于类脑计算技术领域。

背景技术

随着互联网技术和生命科学领域技术的迅猛发展,大量生物医学文献正在呈现出爆炸式的增长态势。而在大数据盛行的今天，生物医学领域的大量非结构化的纯文本数据，也成为了蕴含了人类智慧结晶的巨大矿藏。随着对海量知识挖掘整理的需求日益迫切，构建知识库为最终目标的关系抽取相关技术应运而生。

传统的生物领域关系抽取方法需要预先定义实体关系的分类体系，接着利用各种规则模板进行关系实例识别和关系元组的抽取。然而，由于缺乏足够的依据，对于微生物这样体系并不成熟的细分领域而言，预先定义科学的实体关系类型的难度很大。开放式关系抽取技术作为一种无指导的方法，可以在无须预定义的条件下，实现关系的发现与抽取。这使之成为一种在未成熟细分领域进行关系抽取的首选方法。

近年来，开放式关系抽取方法主要集中于对句法关系树等特征的识别。虽然相较于传统的手工规则，语法规则等方法已有突破，却已达到瓶颈。与此同时，神经网络模型在近几年发展迅猛，在自然语言处理的多个领域获得了突破与成功，这也为开放式关系抽取技术的进一步提供了一种新的方法。

开放式关系抽取任务要求模型具有输出半结构化数据的能力。而目前的神经网络模型多以RNN(无结构化输出)，Tree RNN(完全结构化输出)等模型为主。这些模型结构并不能直接适用于开放式关系抽取任务。

发明内容

针对现有技术的不足，本发明所要解决的首要技术问题在于提供一种层级递归神经网络解码器；

本发明所要解决的另一技术问题在于提供一种层级递归神经网络解码方法。

为实现上述发明目的，本发明采用下述的技术方案：

根据本发明实施例的第一方面，提供一种层级递归神经网络解码器，根据层级递归神经网络划分层级，在顶层设置内部解码单元；

在除顶层之外的每个层级均设置共轭解码单元；

所述共轭解码单元包括边缘判断分类器、内部解码单元和内部编码单元；

其中，所述边缘判断分类器用于感知所在层级的划分边界；

所述内部编码单元对来自于下一层的输入进行编码，并在到达当前层的层级的划分边界时，向当前层的上一层传递编码信息；

所述内部解码单元根据上一层的输入、内部编码单元下一层的输出以及内部解码器的隐藏状态，对内部解码单元下一层的输出进行预测。

根据本发明实施例的第二方面，提供一种层级递归神经网络解码方法，包括如下步骤：

层级递归神经网络顶层的内部解码单元对输入进行解码生成语义片段信息；

根据上层解码单元生成的语义片段信息，由内部编码单元逐一生成下一层粒度的语义信息，并将生成的语义信息经由内部编码单元进行再编码，生成再编码信息；

当边缘判断分类器判定内部解码单元处于划分边界时，停止解码，并将再编码信息返回。