[发明专利]一种半结构文本的信息提取装置

权利要求书

1.一种半结构文本的信息提取装置，其特征在于：它包括了对句子的分词和结构提取；编码层模块，采用Albert或LSTM对文本的字符进行embedding；图注意力网络结构层，用于将融合了“结构特征”的词向量融合到“字符”向量的表达上；不同粒度特征的聚合层，采用transformer的decoder方式进行聚合；解码层，采用成熟的CRF算法，对编码结果R进行解码，获得最终序列标注的结果。

2.根据权利要求1所述一种半结构文本的信息提取装置，其特征在于：所述对句子的分词和结构提取包括了：A、利用现有的分词算法，对一段话中的文本进行分词切割，形成单个的词；B、通过采用三种粒度的分词方式，对应地可以提取出三种结构信息；C、通过换行符“\n”判断每个词所在的行号，以及每个词在该行的位置信息，确定该词的列号。

3.根据权利要求1所述一种半结构文本的信息提取装置，其特征在于：所述编码层模块包括了：A、采用基于金融对话数据进行预训练后的AlBert模型，对字符进行特征编码；B、通过词的编码，基于图网络，构建一套词的encoding层；C、根据K-NN邻近算法，利用每个词的“结构信息”构建出词的结构拓扑图；D、根据细、中、粗粒度的分词，分别形成三种图，F-Encoding-Graph、M-Encoding-Graph、C-Encoding-Graph，它们分别对应三个对称的邻接矩阵，AF、AM、AC。对于有M*N的拓扑结构，我们构建出M*N*M*N的的邻接矩阵，根据是否相连，确定邻接矩阵中的值；E、根据细、中、粗粒度的分词，采用相同的编码方式，同时采用GAT的算法，对邻接矩阵AF、AM、AC进行特征学习。

4.根据权利要求1所述一种半结构文本的信息提取装置，其特征在于：所述图注意力网络结构层包括了：某“词”中包含有该字符的，则该“词”与该字符是连接的；每个字符和“词”与自身是连接的；其它则是不连接的。

5.根据权利要求1所述一种半结构文本的信息提取装置，其特征在于：所述不同粒度特征的聚合层的聚合步骤为：A、采用直接拼接的方式，对不同粒度形成的图特征进行直接拼接，得到；B、对G进行映射得到K、V，对H进行映射得到Q；则；C、对H进行映射得到K、V，对G进行映射得到Q，则；D、将R1和R2两个特征进行融合，得到最终的特征向量，是待训练的参数。