[发明专利]一种基于知识图谱嵌入的可解释性多跳问答方法及系统在审
申请号: | 202110804426.2 | 申请日: | 2021-07-16 |
公开(公告)号: | CN114168719A | 公开(公告)日: | 2022-03-11 |
发明(设计)人: | 鉴萍;王海;刘德生;简平 | 申请(专利权)人: | 北京理工大学;中国人民解放军战略支援部队航天工程大学 |
主分类号: | G06F16/332 | 分类号: | G06F16/332;G06F16/36;G06F40/151 |
代理公司: | 北京正阳理工知识产权代理事务所(普通合伙) 11639 | 代理人: | 张利萍 |
地址: | 100081 *** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 基于 知识 图谱 嵌入 解释性 问答 方法 系统 | ||
1.一种基于知识图谱嵌入的可解释性多跳问答方法,其特征在于,包括以下步骤:
步骤1:输入问题句子,编码句子转换到知识图谱关系空间,包括以下步骤:
步骤1.1:通过嵌入层,将上下文句子转换为词向量序列;
步骤1.2:利用编码器对问句词向量序列进行编码,获得问句编码向量,并输出问句的编码表示;
步骤2:输入问句编码向量和已知关系向量,通过注意力机制计算已知关系向量权重,包括以下步骤:
步骤2.1:筛选问题节点周围三跳内的关系作为初始的候选关系,并将与初始候选关系共现频率大于设定阈值的关系作为潜在的候选关系,共同构成候选关系集合;
对于共现频率的阈值,根据不同的知识图谱与领域经验进行调整;
步骤2.2:将候选关系列表通过知识图谱嵌入层,得到候选关系向量矩阵;
步骤2.3:将步骤1得到的问句编码向量与步骤2.2得到的候选关系向量矩阵输入注意力机制层,得到注意力加权的候选关系向量;
步骤3:将步骤1输出的问题编码向量和步骤2.3输出的加权关系向量进行向量的合并连接,输入至多头注意力机制层进行编码,并通过线性层得到编码器输出,从而得到融合初步问题编码信息与图谱关系信息的问题编码表示;
步骤4:利用知识图谱嵌入算法,结合问题实体、问题编码、候选关系、候选答案节点向量进行计算,筛选出得分最高的候选答案节点并作为问题答案,包括以下步骤:
步骤4.1:将问题中涉及的问题实体输入知识图谱嵌入层,得到实体嵌入向量;
步骤4.2:将步骤4.1得到的实体嵌入向量、步骤2得到的候选关系向量矩阵、步骤3得到的问题编码向量,以及知识图谱中所有的候选节点输入得分函数层,计算得分,选择得分最高的候选节点作为答案。
2.如权利要求1所述的一种基于知识图谱嵌入的可解释性多跳问答方法,其特征在于,步骤1.2的实现方法如下:
首先,将句子的向量表示序列的每一个词向量通过矩阵映射为查询值Q、键值K和值V:
Q=WQ·e (1)
K=WK·e (2)
V=WV·e (3)
其中,WQ、WK、WV分别表示查询值Q、键值K和值V的映射参数;e表示输入的词向量;
然后,对于每一个词,通过自注意力机制计算其对于其它所有词的注意力分值scoFe:
其中,dk为K的维度,KT表示键值K的转置,T表示矩阵转置;
然后,用注意力分值作为权重,用对应的注意力分值与值V相乘并求和,得到对应的隐藏层状态表示向量
将每个注意力头产生的表示进行拼接:
其中,h′表示每个注意力头产生的表示拼接后的结果,表示第n个头产生的表示;
最后,通过两层由ReLU作激活函数的线性层:
其中,表示前文句子经过编码器后的表示,FFN(·)表示线性单元,W1、W2分别表示训练权重,b1、b2分别表示W1、W2对应的偏置项。
3.如权利要求1所述的一种基于知识图谱嵌入的可解释性多跳问答方法,其特征在于,步骤2.2中,对于知识图谱嵌入层,要根据知识图谱进行预训练;
选择ComplEx算法对知识图谱进行嵌入,对于知识图谱中的节点集合∑,头实体节点h与尾实体节点t,h,t∈∑;设h与r之间存在关系r,则r∈R,R为所有关系的集合;
对于图谱嵌入,定义得分函数φ(h,r,t)为:
其中,eh表示头实体节点的向量表示,er表示知识图谱关系的向量表示,表示尾实体节点的向量表示,Re()表示计算结果的实数部分;
对于所有存在的三元组关系(h,r,t),φ(h,r,t)>0,如果φ(h,r,t)<0,则表明知识库中没有这条知识。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京理工大学;中国人民解放军战略支援部队航天工程大学,未经北京理工大学;中国人民解放军战略支援部队航天工程大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202110804426.2/1.html,转载请声明来源钻瓜专利网。
- 上一篇:缺陷检查装置
- 下一篇:马达控制系统及其控制方法