[发明专利]基于图对比学习的验证方法、系统、设备和存储介质在审
申请号: | 202110680673.6 | 申请日: | 2021-06-18 |
公开(公告)号: | CN113312920A | 公开(公告)日: | 2021-08-27 |
发明(设计)人: | 陈洪辉;蔡飞;陈翀昊;郑建明;潘志强;毛彦颖;张鑫;宋城宇;江苗;王祎童;王梦如 | 申请(专利权)人: | 中国人民解放军国防科技大学 |
主分类号: | G06F40/295 | 分类号: | G06F40/295;G06F40/30;G06F40/126 |
代理公司: | 北京风雅颂专利代理有限公司 11403 | 代理人: | 曾志鹏 |
地址: | 410073 湖*** | 国省代码: | 湖南;43 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 基于 对比 学习 验证 方法 系统 设备 存储 介质 | ||
1.一种基于图对比学习的验证方法,其特征在于,包括以下步骤:
对待验证的声明进行检索,获取所述声明的证据集;
使用命名实体识别工具提取所述证据集中包含的实体节点,通过所述实体节点之间的语义关系,构造由所述实体节点组成的实体图;
基于所述实体图,利用BERT模型来生成所述声明和所述证据集中的词语的实体特征表示;
利用无监督的图对比任务来训练所述实体图对应的图卷积编码器,使得所述实体图在更新中保留区别性的实体节点特征;
将所述实体节点特征输入到监督对比任务中,使得所述图卷积编码器在向量嵌入空间中拉近同类的声明证据对,推开不同类的声明证据对;
根据所述声明证据对的对比,对所述声明的标签进行验证。
2.根据权利要求1所述的基于图对比学习的验证方法,其特征在于,所述基于所述实体图,利用BERT模型来生成所述声明和所述证据集中的词语的实体特征表示,包括:
将所述证据集中的句子连接为序列证据文本,然后将所述序列证据文本与所述声明连接,形成输入序列;
基于所述输入序列,采用双向注意层来增强所述声明和所述证据集的特征交叉互动,生成所述声明和所述证据集的增强单词表示;
利用与实体相关联的证据中的文本跨度来生成初始实体节点表示,用于所述实体图的推理过程;
在所述输入序列内,将文本跨度内的单词平均池化和最大池化结果进行拼接,并输入到一个多层感知器生成所述实体特征表示。
3.根据权利要求1所述的基于图对比学习的验证方法,其特征在于,所述利用无监督的图对比任务来训练所述实体图对应的图卷积编码器,使得所述实体图在更新中保留区别性的实体节点特征,包括:
对所述实体图和所述实体图的关系矩阵,利用单层的图卷积编码器通过所述实体节点生成高维的特征向量表示,将所述特征向量表示视为局部特征表示;
利用平均池化函数将每个所述实体节点的局部特征表示汇总为图表示,并将所述图表示视为全局特征表示:
使用区分器来生成局部-全局特征对的概率分数,量化所述局部特征表示和所述全局特征表示之间的相互信息;
通过随机变换改变所述实体特征表示,利用腐蚀函数来构造负样本,基于噪声对比目标,在所述实体特征表示对应的正负样本之间使用二元交叉熵损失训练所述图卷积编码器。
4.根据权利要求1所述的基于图对比学习的验证方法,其特征在于,所述将所述实体节点特征输入到监督对比任务中,使得所述图卷积编码器在向量嵌入空间中拉近同类的声明证据对,推开不同类的声明证据对,包括:
使用图卷积编码器集成相邻的所述实体特征表示,将所述声明证据对和所述实体特征表示进行实体节点的增强;
利用基于注意力机制的特征聚合器来聚合所述实体特征表示,突出显示与所述声明相关的关键实体信息;
将所述声明的词特征的平均池化结果作为查询向量,并计算所述声明与所述实体节点的注意力分数,根据权重聚合实体特征对所述实体图进行聚合;
对所述声明证据对进行索引,通过监督对比损失函数来调整所述图卷积编码器,实现所述实体节点特征输入到监督对比任务中。
5.一种基于图对比学习的验证系统,其特征在于,包括:
证据集检索模块,用于对待验证的声明进行检索,获取所述声明的证据集;
实体图模块,用于使用命名实体识别工具提取所述证据集中包含的实体节点,通过所述实体节点之间的语义关系,构造由所述实体节点组成的实体图;
特征表示模块,用于基于所述实体图,利用BERT模型来生成所述声明和所述证据集中的词语的实体特征表示;
无监督对比模块,用于利用无监督的图对比任务来训练所述实体图对应的图卷积编码器,使得所述实体图在更新中保留区别性的实体节点特征;
有监督对比模块,用于将所述实体节点特征输入到监督对比任务中,使得所述图卷积编码器在向量嵌入空间中拉近同类的声明证据对,推开不同类的声明证据对;
标签验证模块,用于根据所述声明证据对的对比,对所述声明的标签进行验证。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于中国人民解放军国防科技大学,未经中国人民解放军国防科技大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202110680673.6/1.html,转载请声明来源钻瓜专利网。