[发明专利]文本抽取方法、装置、计算机设备和可读存储介质在审
申请号: | 202010944955.8 | 申请日: | 2020-09-10 |
公开(公告)号: | CN112069319A | 公开(公告)日: | 2020-12-11 |
发明(设计)人: | 陆韵;江易;常荣虎;陈绍强;陆克贤;李永强;任聪;翁漂洋 | 申请(专利权)人: | 杭州中奥科技有限公司 |
主分类号: | G06F16/35 | 分类号: | G06F16/35;G06F16/36;G06F40/284;G06F40/30 |
代理公司: | 北京超凡宏宇专利代理事务所(特殊普通合伙) 11463 | 代理人: | 徐丽 |
地址: | 310000 浙江省*** | 国省代码: | 浙江;33 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 文本 抽取 方法 装置 计算机 设备 可读 存储 介质 | ||
1.一种文本抽取方法,其特征在于,应用于计算机设备,所述计算机设备存储有多个关系种类和多个标注类别;
所述方法包括:
获取待抽取文本;
将所述待抽取文本输入预先训练的关系分类模型得到目标关系文本,所述目标关系文本包括从所述多个关系种类中确定的目标关系种类;
将所述目标关系文本输入预先训练的序列标注模型得到目标标注文本,所述目标标注文本包括从所述多个标注类别中确定的目标标注类别;
基于所述目标关系种类和所述目标标注类别,从所述目标标注文本中抽取得到目标文本。
2.根据权利要求1所述的方法,其特征在于,所述将所述待抽取文本输入预先训练的关系分类模型得到目标关系文本的步骤,包括:
对经过预处理后的所述待抽取文本进行特征提取,得到多个第一特征向量;
将所述多个第一特征向量输入Bert模型,得到语义表示向量,其中,所述语义表示向量用于表征所述待抽取文本的全文语义;
将所述语义表示向量通过全连接层映射,得到语义映射向量;
将所述语义映射向量通过预设激活函数计算得到语义预测向量,所述语义预测向量包括语义预测置信度;
根据所述语义预测置信度与预设置信度阈值确定所述目标关系种类;
将所述经过预处理后的所述待抽取文本与所述目标关系种类构建为所述目标关系文本。
3.根据权利要求2所述的方法,其特征在于,所述将所述目标关系文本输入预先训练的序列标注模型得到目标标注文本的步骤,包括:
对经过预处理后的所述目标关系文本进行特征提取,得到多个第二特征向量;
将所述多个第二特征向量输入Bert模型,得到文字序列向量,其中,所述文字序列向量用于表征所述待抽取文本中每个文字的标注信息;
将所述文字序列向量通过全连接层映射,得到多个标注预测向量,每个所述标注预测向量均包括标注预测向量置信度;
根据最大标注预测向量置信度确定所述目标标注类别;
根据所述目标标注类别对所述目标关系文本进行标注,得到所述目标标注文本。
4.根据权利要求1所述的方法,其特征在于,所述目标标注文本包括目标文本关系;
所述基于所述目标关系种类和所述目标标注类别,从所述目标标注文本中抽取得到目标文本的步骤,包括:
根据所述目标关系种类、所述目标标注类别和所述目标文本关系从所述目标标注文本中抽取目标实体关系、第一实体和第二实体;
将所述目标实体关系、第一实体和第二实体作为所述目标文本。
5.根据权利要求1所述的方法,其特征在于,所述关系分类模型通过以下方式获取:
获取训练样本文本和预设样本关系;
对经过分词处理的所述训练样本文本进行特征提取,得到多个第一训练特征向量;
将所述多个第一训练特征向量输入Bert模型,得到训练语义表示向量,其中,所述训练语义表示向量用于表征所述训练样本文本的全文语义;
将所述训练语义表示向量通过全连接层映射,得到训练语义映射向量;
将所述训练语义映射向量通过预设激活函数计算得到训练语义预测向量;
基于所述预设样本关系,将所述训练语义预测向量输入所述关系分类模型通过交叉熵损失函数计算损失并进行迭代训练,直至得到所述关系分类模型。
6.根据权利要求5所述的方法,其特征在于,所述序列标注模型通过以下方式获取:
获取所述训练样本文本和预设标注类别;
对经过分词处理的所述训练样本文本进行特征提取,得到多个第二训练特征向量;
将所述多个第二训练特征向量输入Bert模型,得到训练文字序列向量,其中,所述训练文字序列向量用于表征所述待抽取文本中每个文字的标注信息;
将所述训练文字序列向量通过全连接层映射,得到训练标注预测向量;
将所述训练标注预测向量输入所述序列标注模型通过交叉熵损失函数计算损失并进行迭代训练,直至得到所述序列标注模型。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于杭州中奥科技有限公司,未经杭州中奥科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202010944955.8/1.html,转载请声明来源钻瓜专利网。
- 上一篇:一种防堵塞的消防用大型水轮机
- 下一篇:一种林蛙油的生产方法