[发明专利]基于预训练模型的信息抽取方法、装置、设备及存储介质在审

专利信息
申请号: 202011352108.9 申请日: 2020-11-27
公开(公告)号: CN112329477A 公开(公告)日: 2021-02-05
发明(设计)人: 杨洋;万建伟;潘仰耀;张琛;李锋;万化 申请(专利权)人: 上海浦东发展银行股份有限公司
主分类号: G06F40/30 分类号: G06F40/30;G06F40/295;G06N3/08
代理公司: 北京三友知识产权代理有限公司 11127 代理人: 刘飞;贾磊
地址: 200002 *** 国省代码: 上海;31
权利要求书: 查看更多 说明书: 查看更多
摘要:
搜索关键词: 基于 训练 模型 信息 抽取 方法 装置 设备 存储 介质
【权利要求书】:

1.一种基于预训练模型的信息抽取方法,其特征在于,包括:

获取待处理金融文本;

根据预设的信息抽取模型从所述待处理金融文本中抽取目标要素;所述信息抽取模型通过训练上下文预训练模型得到。

2.如权利要求1所述的基于预训练模型的信息抽取方法,其特征在于,所述信息抽取模型通过以下步骤训练得到:

对采集到的目标金融文本进行预处理;

对预处理后的目标金融文本进行多维度标注,生成包含多维度标注的标签文本语句;

基于所述上下文预训练模型中的Transformer编码器,将所述标签文本语句进行向量化,并据此形成所述标签文本语句的多维特征矩阵;

根据所述多维特征矩阵训练所述上下文预训练模型,获得信息抽取模型。

3.如权利要求2所述的基于预训练模型的信息抽取方法,其特征在于,所述对采集到的目标金融文本进行预处理,包括:

对采集到的目标金融文本进行数据清洗;

确认清洗后的目标金融文本的长度是否等于指定长度;

当所述目标金融文本的长度大于所述指定长度时,按照所述指定长度对所述目标金融文本进行分片,以获得定长语句;

当所述目标金融文本的长度小于所述指定长度,或所述目标金融文本被分片后的剩余长度小于所述指定长度时,对所述目标金融文本或所述剩余长度进行边缘填充,以使其长度等于所述指定长度。

4.如权利要求3所述的基于预训练模型的信息抽取方法,其特征在于,所述对预处理后的目标金融文本进行多维度标注,包括:

基于BIO标注方法对所述定长语句进行多维度标注。

5.如权利要求2所述的基于预训练模型的信息抽取方法,其特征在于,所述根据所述多维特征矩阵训练所述上下文预训练模型,包括:

利用所述多维特征矩阵对所述上下文预训练模型进行训练,并利用条件随机场层对上下文预训练模型的输出进行约束;

计算每训练轮次后上下文预训练模型的损失函数值;

当所述损失函数值满足预设条件时,将对应训练轮次后的上下文预训练模型作为信息抽取模型。

6.如权利要求1所述的基于预训练模型的信息抽取方法,其特征在于,所述上下文预训练模型为具有Transformer编码器的预训练模型。

7.如权利要求6所述的基于预训练模型的信息抽取方法,其特征在于,所述具有Transformer编码器的预训练模型包括以下中的任意一种:

BERT模型;

XLNet模型;

ALBERT模型。

8.一种基于预训练模型的信息抽取装置,其特征在于,包括:

文本获取模块,用于获取待处理金融文本;

要素抽取模块,用于根据预设的信息抽取模型从所述待处理金融文本中抽取目标要素;所述信息抽取模型通过训练上下文预训练模型得到。

9.一种计算机设备,包括存储器、处理器、以及存储在所述存储器上的计算机程序,其特征在于,所述计算机程序被所述处理器运行时,执行根据权利要求1-7任意一项所述方法的指令。

10.一种计算机存储介质,其上存储有计算机程序,其特征在于,所述计算机程序被计算机设备的处理器运行时,执行根据权利要求1-7任意一项所述方法的指令。

下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。

该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于上海浦东发展银行股份有限公司,未经上海浦东发展银行股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服

本文链接:http://www.vipzhuanli.com/pat/books/202011352108.9/1.html,转载请声明来源钻瓜专利网。

×

专利文献下载

说明:

1、专利原文基于中国国家知识产权局专利说明书;

2、支持发明专利 、实用新型专利、外观设计专利(升级中);

3、专利数据每周两次同步更新,支持Adobe PDF格式;

4、内容包括专利技术的结构示意图流程工艺图技术构造图

5、已全新升级为极速版,下载速度显著提升!欢迎使用!

请您登陆后,进行下载,点击【登陆】 【注册】

关于我们 寻求报道 投稿须知 广告合作 版权声明 网站地图 友情链接 企业标识 联系我们

钻瓜专利网在线咨询

周一至周五 9:00-18:00

咨询在线客服咨询在线客服
tel code back_top