[发明专利]基于认知推理的知识图谱多跳问答方法及模型在审
申请号: | 202110697004.X | 申请日: | 2021-06-23 |
公开(公告)号: | CN113360604A | 公开(公告)日: | 2021-09-07 |
发明(设计)人: | 王杰;蔡健宇;张占秋;吴枫 | 申请(专利权)人: | 中国科学技术大学 |
主分类号: | G06F16/33 | 分类号: | G06F16/33;G06F16/332;G06F16/36;G06F40/216;G06F40/30;G06N5/02;G06N5/04;G06N7/00 |
代理公司: | 北京凯特来知识产权代理有限公司 11260 | 代理人: | 郑立明;付久春 |
地址: | 230026 安*** | 国省代码: | 安徽;34 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 基于 认知 推理 知识 图谱 问答 方法 模型 | ||
1.一种基于认知推理的知识图谱多跳问答方法,其特征在于,用于从给定知识图谱中,以某一主题实体作为推理起点,基于认知推理预测得出一个自然语言问题的正确答案,包括以下步骤:
步骤1,从给定的问题-答案对数据中随机选取多批次的数据作为训练集;所述问题-答案对数据为自然语言问题与正确候选答案实体组成的数据对;
步骤2,以所述的训练集作为输入,训练深层认知推理网络模型的参数,并通过神经网络优化器以使训练过程中损失函数的值最小化为目标,对所述深层认知推理网络模型进行优化,得到优化后的深层认知推理网络模型;
步骤3,通过优化后的所述深层认知推理网络模型对测试集中的自然语言问题进行处理,并对各个候选答案实体进行打分,得分最高的候选答案实体即为给定自然语言问题的答案。
2.根据权利要求1所述的基于认知推理的知识图谱多跳问答方法,其特征在于,所述深层认知推理网络模型包括:
输入层、推理路径解码模块、无意识模块、有意识模块和输出层;其中,
所述输入层,分别与所述理路径解码模块和无意识模块连接,用于输入给定的自然语言问题;
所述推理路径解码模块的输出端分别无意识模块和有意识模块连接,该理路径解码模块接收所述输入层传入的给定的自然语言问题,输出解码所述给定的自然语言问题得到的推理路径中每一步中每一个选择的得分;
所述无意识模块依次与所述有意识模块和输出层连接,该无意识模块的输入为给定的自然语言问题、知识图谱和推理路径解码模块的输出,输出为每个候选答案实体的打分;
所述有意识模块的输入为给定的自然语言问题、知识图谱、推理路径解码模块的输出和无意识模块的输出,输出为每个候选答案实体的最终得分;
所述输出层,用于输出所述有意识模块得出的每个候选答案实体的最终得分。
3.根据权利要求2所述的基于认知推理的知识图谱多跳问答方法,其特征在于,
所述推理路径解码模块采用编码-解码器模型;
所述无意识模块采用基于向量内积的语义匹配模型;
所述有意识模块采用基于贝叶斯网络的路径推理模型。
4.根据权利要求2或3所述的基于认知推理的知识图谱多跳问答方法,其特征在于,所述深层认知推理网络模型的无意识模块通过语义匹配对每个候选答案实体进行打分,通过以下公式(1)计算候选答案实体e的得分:
所述公式(1)中,表示基于自然语言问题q得到的查询向量,通过公式(2)计算得出:
所述公式(2)中,符号○表示元素间相乘,o(i)表示所述深层认知推理网络模型的推理路径解码模块中第i步的输出。
5.根据权利要求2或3所述的基于认知推理的知识图谱多跳问答方法,其特征在于,所述深层认知推理网络模型的有意识模块基于所述无意识模块输出的得分,使用贝叶斯网络进行顺序推理,得出每个候选答案实体的最终得分。
6.根据权利要求5所述的基于认知推理的知识图谱多跳问答方法,其特征在于,所述有意识模块的具体处理步骤为:
(a)裁剪知识图谱:以一个主题实体etopic∈ε作为推理起点用广度优先搜索算法,从给定的一个知识图谱g中搜索一个自然语言问题q的对应答案实体,得出只由访问过的边组成的有向无环图作为裁剪后的知识图谱
(b)将裁剪后的知识图谱转换为贝叶斯网络与的图结构相同,两者的节点与边的定义分别为:
(c)基于贝叶斯网络进行推理:基于所述步骤(b)中得到的贝叶斯网络建模知识图谱多跳问答为:
根据贝叶斯网络的性质,推导出如下结果:
所述公式(3)中,的定义为:
用以上方式对所述概率公式(4)进行建模:
所述公式(5)中,fs(e)是无意识模块输出的得分,fb(e)是有意识模块所计算的对候选实体e的打分结果,fb(e)通过以下公式(6)计算:
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于中国科学技术大学,未经中国科学技术大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202110697004.X/1.html,转载请声明来源钻瓜专利网。