[发明专利]基于预训练模型的信息抽取方法、装置、设备及存储介质在审
申请号: | 202011352108.9 | 申请日: | 2020-11-27 |
公开(公告)号: | CN112329477A | 公开(公告)日: | 2021-02-05 |
发明(设计)人: | 杨洋;万建伟;潘仰耀;张琛;李锋;万化 | 申请(专利权)人: | 上海浦东发展银行股份有限公司 |
主分类号: | G06F40/30 | 分类号: | G06F40/30;G06F40/295;G06N3/08 |
代理公司: | 北京三友知识产权代理有限公司 11127 | 代理人: | 刘飞;贾磊 |
地址: | 200002 *** | 国省代码: | 上海;31 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 基于 训练 模型 信息 抽取 方法 装置 设备 存储 介质 | ||
1.一种基于预训练模型的信息抽取方法,其特征在于,包括:
获取待处理金融文本;
根据预设的信息抽取模型从所述待处理金融文本中抽取目标要素;所述信息抽取模型通过训练上下文预训练模型得到。
2.如权利要求1所述的基于预训练模型的信息抽取方法,其特征在于,所述信息抽取模型通过以下步骤训练得到:
对采集到的目标金融文本进行预处理;
对预处理后的目标金融文本进行多维度标注,生成包含多维度标注的标签文本语句;
基于所述上下文预训练模型中的Transformer编码器,将所述标签文本语句进行向量化,并据此形成所述标签文本语句的多维特征矩阵;
根据所述多维特征矩阵训练所述上下文预训练模型,获得信息抽取模型。
3.如权利要求2所述的基于预训练模型的信息抽取方法,其特征在于,所述对采集到的目标金融文本进行预处理,包括:
对采集到的目标金融文本进行数据清洗;
确认清洗后的目标金融文本的长度是否等于指定长度;
当所述目标金融文本的长度大于所述指定长度时,按照所述指定长度对所述目标金融文本进行分片,以获得定长语句;
当所述目标金融文本的长度小于所述指定长度,或所述目标金融文本被分片后的剩余长度小于所述指定长度时,对所述目标金融文本或所述剩余长度进行边缘填充,以使其长度等于所述指定长度。
4.如权利要求3所述的基于预训练模型的信息抽取方法,其特征在于,所述对预处理后的目标金融文本进行多维度标注,包括:
基于BIO标注方法对所述定长语句进行多维度标注。
5.如权利要求2所述的基于预训练模型的信息抽取方法,其特征在于,所述根据所述多维特征矩阵训练所述上下文预训练模型,包括:
利用所述多维特征矩阵对所述上下文预训练模型进行训练,并利用条件随机场层对上下文预训练模型的输出进行约束;
计算每训练轮次后上下文预训练模型的损失函数值;
当所述损失函数值满足预设条件时,将对应训练轮次后的上下文预训练模型作为信息抽取模型。
6.如权利要求1所述的基于预训练模型的信息抽取方法,其特征在于,所述上下文预训练模型为具有Transformer编码器的预训练模型。
7.如权利要求6所述的基于预训练模型的信息抽取方法,其特征在于,所述具有Transformer编码器的预训练模型包括以下中的任意一种:
BERT模型;
XLNet模型;
ALBERT模型。
8.一种基于预训练模型的信息抽取装置,其特征在于,包括:
文本获取模块,用于获取待处理金融文本;
要素抽取模块,用于根据预设的信息抽取模型从所述待处理金融文本中抽取目标要素;所述信息抽取模型通过训练上下文预训练模型得到。
9.一种计算机设备,包括存储器、处理器、以及存储在所述存储器上的计算机程序,其特征在于,所述计算机程序被所述处理器运行时,执行根据权利要求1-7任意一项所述方法的指令。
10.一种计算机存储介质,其上存储有计算机程序,其特征在于,所述计算机程序被计算机设备的处理器运行时,执行根据权利要求1-7任意一项所述方法的指令。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于上海浦东发展银行股份有限公司,未经上海浦东发展银行股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202011352108.9/1.html,转载请声明来源钻瓜专利网。
- 上一篇:一种工业故障诊断非平衡时序数据扩充方法
- 下一篇:一种脑电信号采集系统及方法
- 信息记录介质、信息记录方法、信息记录设备、信息再现方法和信息再现设备
- 信息记录装置、信息记录方法、信息记录介质、信息复制装置和信息复制方法
- 信息记录装置、信息再现装置、信息记录方法、信息再现方法、信息记录程序、信息再现程序、以及信息记录介质
- 信息记录装置、信息再现装置、信息记录方法、信息再现方法、信息记录程序、信息再现程序、以及信息记录介质
- 信息记录设备、信息重放设备、信息记录方法、信息重放方法、以及信息记录介质
- 信息存储介质、信息记录方法、信息重放方法、信息记录设备、以及信息重放设备
- 信息存储介质、信息记录方法、信息回放方法、信息记录设备和信息回放设备
- 信息记录介质、信息记录方法、信息记录装置、信息再现方法和信息再现装置
- 信息终端,信息终端的信息呈现方法和信息呈现程序
- 信息创建、信息发送方法及信息创建、信息发送装置