[发明专利]基于预训练模型的信息抽取方法、装置、设备及存储介质

权利要求书

1.一种基于预训练模型的信息抽取方法，其特征在于，包括：

获取待处理金融文本；

根据预设的信息抽取模型从所述待处理金融文本中抽取目标要素；所述信息抽取模型通过训练上下文预训练模型得到。

2.如权利要求1所述的基于预训练模型的信息抽取方法，其特征在于，所述信息抽取模型通过以下步骤训练得到：

对采集到的目标金融文本进行预处理；

对预处理后的目标金融文本进行多维度标注，生成包含多维度标注的标签文本语句；

基于所述上下文预训练模型中的Transformer编码器，将所述标签文本语句进行向量化，并据此形成所述标签文本语句的多维特征矩阵；

根据所述多维特征矩阵训练所述上下文预训练模型，获得信息抽取模型。

3.如权利要求2所述的基于预训练模型的信息抽取方法，其特征在于，所述对采集到的目标金融文本进行预处理，包括：

对采集到的目标金融文本进行数据清洗；

确认清洗后的目标金融文本的长度是否等于指定长度；

当所述目标金融文本的长度大于所述指定长度时，按照所述指定长度对所述目标金融文本进行分片，以获得定长语句；

当所述目标金融文本的长度小于所述指定长度，或所述目标金融文本被分片后的剩余长度小于所述指定长度时，对所述目标金融文本或所述剩余长度进行边缘填充，以使其长度等于所述指定长度。

4.如权利要求3所述的基于预训练模型的信息抽取方法，其特征在于，所述对预处理后的目标金融文本进行多维度标注，包括：

基于BIO标注方法对所述定长语句进行多维度标注。

5.如权利要求2所述的基于预训练模型的信息抽取方法，其特征在于，所述根据所述多维特征矩阵训练所述上下文预训练模型，包括：

利用所述多维特征矩阵对所述上下文预训练模型进行训练，并利用条件随机场层对上下文预训练模型的输出进行约束；

计算每训练轮次后上下文预训练模型的损失函数值；

当所述损失函数值满足预设条件时，将对应训练轮次后的上下文预训练模型作为信息抽取模型。

6.如权利要求1所述的基于预训练模型的信息抽取方法，其特征在于，所述上下文预训练模型为具有Transformer编码器的预训练模型。

7.如权利要求6所述的基于预训练模型的信息抽取方法，其特征在于，所述具有Transformer编码器的预训练模型包括以下中的任意一种：

BERT模型；

XLNet模型；

ALBERT模型。

8.一种基于预训练模型的信息抽取装置，其特征在于，包括：

文本获取模块，用于获取待处理金融文本；

要素抽取模块，用于根据预设的信息抽取模型从所述待处理金融文本中抽取目标要素；所述信息抽取模型通过训练上下文预训练模型得到。

9.一种计算机设备，包括存储器、处理器、以及存储在所述存储器上的计算机程序，其特征在于，所述计算机程序被所述处理器运行时，执行根据权利要求1-7任意一项所述方法的指令。

10.一种计算机存储介质，其上存储有计算机程序，其特征在于，所述计算机程序被计算机设备的处理器运行时，执行根据权利要求1-7任意一项所述方法的指令。