[发明专利]基于认知推理的知识图谱多跳问答方法及模型在审
申请号: | 202110697004.X | 申请日: | 2021-06-23 |
公开(公告)号: | CN113360604A | 公开(公告)日: | 2021-09-07 |
发明(设计)人: | 王杰;蔡健宇;张占秋;吴枫 | 申请(专利权)人: | 中国科学技术大学 |
主分类号: | G06F16/33 | 分类号: | G06F16/33;G06F16/332;G06F16/36;G06F40/216;G06F40/30;G06N5/02;G06N5/04;G06N7/00 |
代理公司: | 北京凯特来知识产权代理有限公司 11260 | 代理人: | 郑立明;付久春 |
地址: | 230026 安*** | 国省代码: | 安徽;34 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 基于 认知 推理 知识 图谱 问答 方法 模型 | ||
本发明公开了一种基于认知推理的知识图谱多跳问答方法及模型,方法包括:步骤1,从给定的问题‑答案对数据中随机选取多批次的数据作为训练集;步骤2,以训练集作为输入,训练深层认知推理网络模型的参数,并通过神经网络优化器以使训练过程中损失函数的值最小化为目标,对深层认知推理网络模型进行优化,得到优化后的网络模型;步骤3,通过优化后的网络模型对测试集中的问题进行处理,并对各个候选答案实体打分,得分最高的候选答案实体即为给定自然语言问题的答案。通过模拟人类的认知推理机制,由层次化的网络模型从不同角度进行知识推理,有效地利用并建模了知识图谱中的节点级别与边级别的信息,对知识图谱多跳问答取得显著性能提升。
技术领域
本发明涉及基于知识图谱的自然语言处理领域,尤其涉及一种基于认知推理的知识图谱多跳问答方法及模型。
背景技术
知识图谱以多关系有向图的形式存储人类知识,图中的每个节点都表示一个实体,每条边都表示两个实体之间的关系,而边的方向则表示了该方向的指向性。知识图谱中的每个事实(Fact)一般以头实体、关系、尾实体的三元组的形式存储,例如:姚明、出生地、上海即为一个三元组。
知识图谱问答旨在基于知识图谱对给定的自然语言问题进行回答,而知识图谱多跳问答旨在通过知识图谱中的路径推理得到答案,图1所示即为知识图谱多跳问答任务的示意图。
目前的知识图谱多跳问答中存在一个严峻的挑战,对于需要长推理路径的复杂问题的回答准确率低,这是由于需要长推理路径的复杂问题,会随着跳数的增长使候选答案实体的数量呈指数增加,但大量的候选答案实体为寻找准确答案带来了困难。之前的方法KV-Mem使用记忆网络(Memory Network)进行多跳推理,VRN使用一种变分法框架进行多跳推理,但这些方法难以有效解决需要长推理路径问题的准确回答问题。现有的方法(如:GRAFT-Net与PullNet)为了解决这一问题,它们首先提取问题相关的子图,随后在提取的子图上进行推理。然而,这些方法往往牺牲了答案实体在子图中的召回率以降低候选实体集合的大小,即这样的妥协限制了现有模型的性能。因此,针对需要长推理路径的复杂问题,如何提供一种无需牺牲召回率的高准确率的问答方法是需要解决的问题。
发明内容
针对现有技术所存在的问题,本发明的目的是提供一种基于认知推理的知识图谱多跳问答方法及模型,能解决现有基于知识图谱多跳问答中,所存在的因需要长推理路径复杂导致回答准确率低以及牺牲模型对于正确答案召回率的问题。
本发明的目的是通过以下技术方案实现的:
本发明实施方式提供一种基于认知推理的知识图谱多跳问答方法,用于从给定知识图谱中,以某一主题实体作为推理起点,基于认知推理预测得出一个自然语言问题的正确答案,包括以下步骤:
步骤1,从给定的问题-答案对数据中随机选取多批次的数据作为训练集;所述问题-答案对数据为给定的自然语言问题与正确候选答案实体组成的数据对;
步骤2,以所述的训练集作为输入,训练深层认知推理网络模型的参数,并通过神经网络优化器以使训练过程中损失函数的值最小化为目标,对所述深层认知推理网络模型进行优化,得到优化后的深层认知推理网络模型;
步骤3,通过优化后的所述深层认知推理网络模型对测试集中的自然语言问题进行处理,并对各个候选答案实体进行打分,得分最高的候选答案实体即为给定自然语言问题的答案。
本发明实施方式还提供一种基于认知推理的知识图谱多跳问答模型,包括:
输入层、推理路径解码模块、无意识模块、有意识模块和输出层;其中,
所述输入层,分别与所述理路径解码模块和无意识模块连接,用于输入给定的自然语言问题;
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于中国科学技术大学,未经中国科学技术大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202110697004.X/2.html,转载请声明来源钻瓜专利网。