[发明专利]优化信息融合策略的关系抽取方法、装置、设备及介质有效
申请号: | 202210641239.1 | 申请日: | 2022-06-07 |
公开(公告)号: | CN115034302B | 公开(公告)日: | 2023-04-11 |
发明(设计)人: | 琚生根;周煜坤;赵振宇;鄢凡力 | 申请(专利权)人: | 四川大学 |
主分类号: | G06F18/25 | 分类号: | G06F18/25;G06F16/31;G06F16/28;G06F16/35;G06F40/205;G06F40/30 |
代理公司: | 北京超凡宏宇专利代理事务所(特殊普通合伙) 11463 | 代理人: | 荣颖佳 |
地址: | 610065 四川*** | 国省代码: | 四川;51 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 优化 信息 融合 策略 关系 抽取 方法 装置 设备 介质 | ||
1.一种优化信息融合策略的关系抽取方法,其特征在于,所述方法包括:
将经过预处理的目标文本输入至预训练模型的编码器,得到第一实体的第一实体向量、第二实体的第二实体向量及所述目标文本的句向量,其中,所述预训练模型包括N层的Transformer层,所述第一实体、第二实体均为所述目标文本中的实体;
根据所述预训练模型的第M层的Transformer层输出的隐状态向量,得到上下文特征向量,其中,M的取值范围为[1,N-1];
将所述第一实体向量与所述句向量进行融合,得到所述第一实体的第一复合特征向量,将所述第二实体向量与所述句向量进行融合,得到所述第二实体的第二复合特征向量;
根据所述上下文特征向量,将所述第一复合特征向量与所述第二复合特征向量进行融合,得到所述第一实体与所述第二实体的关系表示;
将所述关系表示输入至分类层,得到所述第一实体与所述第二实体的语义关系。
2.根据权利要求1所述的优化信息融合策略的关系抽取方法,其特征在于,所述根据所述上下文特征向量,将所述第一复合特征向量与所述第二复合特征向量进行融合,得到所述第一实体与所述第二实体的关系表示,包括:
将所述上下文特征向量进行线性变换计算,得到所述第一实体的第一特征向量和所述第二实体的第二特征向量;
根据所述第一特征向量和所述第一复合特征向量,得到所述第一实体的第一权重,并根据所述第二特征向量和所述第二复合特征向量,得到所述第二实体的第二权重;
根据所述第一权重和所述第二权重,将所述第一复合特征向量与所述第二复合特征向量进行融合,得到所述第一实体与所述第二实体的关系表示。
3.根据权利要求2所述的优化信息融合策略的关系抽取方法,其特征在于,所述根据所述第一权重和所述第二权重,将所述第一复合特征向量与所述第二复合特征向量进行融合,得到所述第一实体与所述第二实体的关系表示,包括:
对所述第一权重进行归一化计算,得到所述第一实体的第一归一化权值,并对所述第二权重进行归一化计算,得到所述第二实体的第二归一化权值;
根据所述第一归一化权值和所述第二归一化权值,将所述第一复合特征向量与所述第二复合特征向量进行融合,得到所述第一实体与所述第二实体的关系表示。
4.根据权利要求1所述的优化信息融合策略的关系抽取方法,其特征在于,所述将经过预处理的目标文本输入至预训练模型的编码器,得到第一实体的第一实体向量、第二实体的第二实体向量及所述目标文本的句向量,包括:
将经过预处理的目标文本输入至预训练模型的编码器,获取所述预训练模型的第N层的Transformer层输出的隐状态向量;
根据所述第N层的Transformer层输出的隐状态向量,得到第一实体的第一实体向量、第二实体的第二实体向量及所述目标文本的句向量。
5.根据权利要求1所述的优化信息融合策略的关系抽取方法,其特征在于,所述根据所述预训练模型的第M层的Transformer层输出的隐状态向量,得到上下文特征向量,包括:
获取所述预训练模型的第M层的Transformer层输出的所有的隐状态向量,并对所述所有的隐状态向量进行平均运算,得到上下文特征向量。
6.根据权利要求1所述的优化信息融合策略的关系抽取方法,其特征在于,所述目标文本的预处理过程包括:
在所述目标文本的句首添加句首标记,并在所述目标文本的句尾添加句尾标记;
在所述第一实体的两侧及所述第二实体的两侧分别添加实体位置标记。
7.根据权利要求1所述的优化信息融合策略的关系抽取方法,其特征在于,所述分类层包括依次连接的全连接层和softmax层。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于四川大学,未经四川大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202210641239.1/1.html,转载请声明来源钻瓜专利网。
- 上一篇:一种湖面环境监测设备
- 下一篇:一种能源控制器专用的遥信模组实现方法
- 信息记录介质、信息记录方法、信息记录设备、信息再现方法和信息再现设备
- 信息记录装置、信息记录方法、信息记录介质、信息复制装置和信息复制方法
- 信息记录装置、信息再现装置、信息记录方法、信息再现方法、信息记录程序、信息再现程序、以及信息记录介质
- 信息记录装置、信息再现装置、信息记录方法、信息再现方法、信息记录程序、信息再现程序、以及信息记录介质
- 信息记录设备、信息重放设备、信息记录方法、信息重放方法、以及信息记录介质
- 信息存储介质、信息记录方法、信息重放方法、信息记录设备、以及信息重放设备
- 信息存储介质、信息记录方法、信息回放方法、信息记录设备和信息回放设备
- 信息记录介质、信息记录方法、信息记录装置、信息再现方法和信息再现装置
- 信息终端,信息终端的信息呈现方法和信息呈现程序
- 信息创建、信息发送方法及信息创建、信息发送装置