[发明专利]三元组抽取方法及系统有效
申请号: | 202011276362.5 | 申请日: | 2020-11-16 |
公开(公告)号: | CN112560475B | 公开(公告)日: | 2023-05-12 |
发明(设计)人: | 李文锋;侯乐;赵九州;赵从志 | 申请(专利权)人: | 和美(深圳)信息技术股份有限公司 |
主分类号: | G06F40/289 | 分类号: | G06F40/289;G06F40/295;G06F16/28;G06N3/0464;G06N3/049;G06N3/08 |
代理公司: | 北京锺维联合知识产权代理有限公司 11579 | 代理人: | 安娜 |
地址: | 518040 广东省深圳市福*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 三元 抽取 方法 系统 | ||
1.一种三元组抽取方法,其特征在于,包括:
利用分词编码器对批量文本信息进行处理得到对应的分词文本、以及所述分词文本对应的分词编码文本与分句编码文本;所述分词编码文本包括所述分词文本中每个分词结果对应的编码信息,所述分句编码文本包括所述分词文本中每句话的编码信息;
利用ALBERT模型对所述分词编码文本与分句编码文本进行处理,得到文本向量;
根据所述文本向量、所述分词编码文本与分句编码文本,利用全连接层学习得到头实体位置信息以及尾实体位置信息;
根据所述头实体位置信息以及尾实体位置信息,确定抽取得到的三元组;
所述根据所述文本向量、所述分词编码文本与分句编码文本,利用全连接层学习得到头实体位置信息以及尾实体位置信息的步骤包括:
将所述文本向量输入全连接层进行学习得到头实体向量,并根据所述头实体向量以及预设的头实体头部阈值以及头实体尾部阈值确定头实体位置信息;
将所述头实体位置信息、所述分词编码文本与分句编码文本输入全连接层进行学习得到尾实体向量,并根据所述尾实体向量以及预设的尾实体头部阈值以及尾实体尾部阈值确定尾实体位置信息。
2.根据权利要求1所述的三元组抽取方法,其特征在于,所述根据所述头实体位置信息以及尾实体位置信息,确定抽取得到的三元组的步骤包括:
根据所述头实体位置信息以及尾实体位置信息确定所述头实体与尾实体之间关系实体位置信息;
根据所述头实体位置信息、关系实体位置信息、以及尾实体位置信息之间关系实体位置信息在所述分词文本中确定对应的头实体文本、关系实体文本以及尾实体文本;
将所述头实体文本、关系实体文本以及尾实体文本作为抽取得到的三元组。
3.根据权利要求2所述的三元组抽取方法,其特征在于,所述将所述文本向量输入全连接层进行学习得到头实体向量的步骤中的头实体损失函数表示为:
其中,Hp(s)表示头实体损失函数的二分类交叉熵损失;
yi表示第i个样本的标签,p(yi)表示该样本属于正样本的概率;
对于正样本yi=1,loss=-log(p(yi)),当p(yi)越大时,损失越小;
对于负样本yi=0,loss=-log(1-p(yi)),当p(yi)越小时,损失越小。
4.根据权利要求3所述的三元组抽取方法,其特征在于,将所述头实体位置信息、所述分词编码文本与分句编码文本输入全连接层进行学习得到尾实体向量的步骤中的尾实体损失函数表示为:
其中,Hp(o)表示尾实体损失函数的二分类交叉熵损失;
yi表示第i个样本的标签,p(yi)表示该样本属于正样本的概率;
对于正样本yi=1,loss=-log(p(yi)),当p(yi)越大时,损失越小;
对于负样本yi=0,loss=-log(1-p(yi)),当p(yi)越小时,损失越小。
5.一种三元组抽取系统,其特征在于,包括:
分词编码器,用于对批量文本信息进行处理得到对应的分词文本、以及所述分词文本对应的分词编码文本与分句编码文本;所述分词编码文本包括所述分词文本中每个分词结果对应的编码信息,所述分句编码文本包括所述分词文本中每句话的编码信息;
ALBERT模型单元,用于对所述分词编码文本与分句编码文本进行处理,得到文本向量;
全连接层学习单元,用于根据所述文本向量、所述分词编码文本与分句编码文本,利用全连接层学习得到头实体位置信息以及尾实体位置信息;
三元组抽取单元,用于根据所述头实体位置信息以及尾实体位置信息,确定抽取得到的三元组;
所述全连接层学习单元包括:
第一全连接层学习子单元,用于将所述文本向量输入全连接层进行学习得到头实体向量,并根据所述头实体向量以及预设的头实体头部阈值以及头实体尾部阈值确定头实体位置信息;
第二全连接层学习子单元,用于将所述头实体位置信息、所述分词编码文本与分句编码文本输入全连接层进行学习得到尾实体向量,并根据所述尾实体向量以及预设的尾实体头部阈值以及尾实体尾部阈值确定尾实体位置信息。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于和美(深圳)信息技术股份有限公司,未经和美(深圳)信息技术股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202011276362.5/1.html,转载请声明来源钻瓜专利网。
- 上一篇:基于车辆故障信号隔离的路径跟踪控制方法
- 下一篇:冷弯滚压成型生产线