[发明专利]基于知识联邦和图网络的推理方法、系统、设备及介质

说明书

本申请涉基于知识联邦和图网络的推理方法、系统、设备及介质，属于机器学习技术领域，该方法包括：各参与方服务器对本地的实体数据构建知识图谱；根据知识图谱的初始节点特征及结构信息和预先训练的图神经网络模型，生成低维知识向量；将各低维知识向量发送至可信第三方服务器；可信第三方服务器对接收到的低维知识向量利用预先训练的融合模型进行融合，得到融合后的特征表示；针对知识推理请求，索引融合后的特征表示进行推理，得到推理结果。该方法能够基于各参与方服务器的实体数据进行协同建模并进行知识推理，达到提高推理准确性的有益效果，而且，在训练过程和推理过程中，保证了各参与方服务器本地的数据安全及隐私。

技术领域

本申请涉及机器学习技术领域，特别是涉及基于知识联邦和图网络的推理方法、系统、设备及介质。

背景技术

我们身处信息时代，每天都会产生大量的各种各样的数据，包括数字、文字、图像、符号等等，这些数据经过筛选、分析、归纳、总结等过程，能够提炼出各种有用的知识。这些知识组合构建形成知识图谱，进而可以用于构建机器的先验知识，用于像智能搜索、深度问答、智能决策等场景任务推理。

目前知识推理算法都是基于单一完整图谱的理想状态进行算法设计，但在实际应用场景中，构成知识图谱的知识往往散落在不同的机构或个人手中，形成一个个数据孤岛。如果仅基于自身数据构建来构建图谱，由于数据量原因，推理准确率往往较低。同时，出于自身利益和数据合规性的考虑，各机构难以直接通过数据共享的形式，将数据集中起来形成完整的知识图谱，进而进行推理。

因此，针对知识推理过程中的数据孤岛和由此带来的推理准确率低的问题，亟待本领域技术人员解决。

发明内容

本申请实施例提供了一种基于知识联邦和图网络的推理方法、系统、设备及介质，以至少解决相关技术中如何提高推理准确率的问题。

第一方面，本申请实施例提供了一种基于知识联邦和图网络的知识推理方法，应用于多个参与方服务器，所述方法包括：各所述参与方服务器对本地的实体数据构建知识图谱；根据所述知识图谱的节点初始特征及结构信息和预先训练的图神经网络模型（GraphAttention Networks，以下可以简称GATs），生成低维知识向量；将各所述低维知识向量发送至可信第三方服务器，其中，所述可信第三方服务器对接收到的所述低维知识向量利用预先训练的融合模型进行融合，得到融合后的特征表示；针对知识推理请求，索引所述融合后的特征表示进行推理，得到推理结果。

在其中一些实施例中，所述的根据所述知识图谱的节点初始特征及结构信息和预先训练的图神经网络模型，生成低维知识向量包括：

各所述参与方服务器通过所述预先训练的图神经网络模型对所述结构信息进行图表示学习：

其中，为节点i的初始特征，为节点j的初始特征，为任意注意力机制函数；

若节点i和节点j具有连边，则采用激励函数计算，并展开为：

计算所述节点j对所述节点i的影响因子：

计算所述低维知识向量：

其中和W为预先训练的图神经网络模型的参数，，表示将维向量映射到新的维向量；，是权重向量；为权重向量的转置；K为多头注意力机制中的多头数目；为激励函数。

在其中一些实施例中，所述的对接收到的所述低维知识向量利用预先训练的融合模型进行融合，得到融合后的特征表示包括：

任意参与方服务器A的低维知识向量：

任意参与方服务器B的低维知识向量：