[发明专利]基于知识联邦和图网络的推理方法、系统、设备及介质

权利要求书

1.一种基于知识联邦和图网络的知识推理方法，其特征在于，应用于多个参与方服务器，所述方法包括：

各所述参与方服务器对本地的实体数据构建知识图谱；

根据所述知识图谱的节点初始特征及结构信息和预先训练的图神经网络模型，生成低维知识向量，所述图神经网络模型为带有注意力机制的GATs模型；

将各所述低维知识向量发送至可信第三方服务器，其中，所述可信第三方服务器对接收到的所述低维知识向量利用预先训练的融合模型进行融合，得到融合后的特征表示，所述图神经网络模型和所述融合模型构成一个整体的模型；

针对节点分类请求，获取节点的所述融合后的特征表示的矩阵；

对所述融合后的特征表示的矩阵每行取最大值对应的索引，得到节点的目标类别，作为推理结果。

2.根据权利要求1所述的基于知识联邦和图网络的知识推理方法，其特征在于，所述的根据所述知识图谱的节点初始特征及结构信息和预先训练的图神经网络模型，生成低维知识向量包括：

各所述参与方服务器通过所述预先训练的图神经网络模型对所述结构信息进行图表示学习：

其中，为节点i的初始特征，为节点j的初始特征，为任意注意力机制函数；

若节点i和节点j具有连边，则采用激励函数计算，并展开为：

计算所述节点j对所述节点i的影响因子：

计算所述低维知识向量：

其中和W为预先训练的图神经网络模型的参数，，表示将维向量映射到新的维向量；，是权重向量；为权重向量的转置；K为多头注意力机制中的多头数目；为激励函数。

3.根据权利要求1所述的基于知识联邦和图网络的知识推理方法，其特征在于，所述的对接收到的所述低维知识向量利用预先训练的融合模型进行融合，得到融合后的特征表示包括：

任意参与方服务器A的低维知识向量：

任意参与方服务器B的低维知识向量：

其中，为所述参与方服务器A中的节点i的低维知识向量，为所述参与方服务器B中的节点i的低维知识向量，N为节点数量，C为分类类别数量；

对所述低维知识向量和所述低维知识向量进行融合，得到融合后的特征表示：

其中，为预先训练的融合模型的参数，是各所述参与方服务器低维知识向量经变换拼接后对应的权重系数。

4.根据权利要求1所述的基于知识联邦和图网络的知识推理方法，其特征在于，所述预先训练的图神经网络模型及所述预先训练的融合模型通过各所述参与方服务器和所述可信第三方服务器联邦训练得到。

5.根据权利要求4所述的基于知识联邦和图网络的知识推理方法，其特征在于，所述预先训练的图神经网络模型及所述预先训练的融合模型通过各所述参与方服务器和所述可信第三方服务器联邦训练得到包括：

各所述参与方服务器对本地的实体数据构建知识图谱；根据所述知识图谱的节点初始特征及结构信息和预设的图神经网络模型，生成低维知识向量；将所述低维知识向量发送至可信第三方服务器；

接收所述可信第三方服务器发送的梯度信息，其中，所述可信第三方服务器对接收到的所述低维知识向量利用预设的融合模型进行融合，得到融合后的特征表示；基于所述融合后的特征表示，计算交叉熵损失；通过反向传播，计算并更新所述融合模型的参数，并计算得到各所述参与方服务器的所述低维知识向量的梯度信息；

各所述参与方服务器根据各自接收的所述梯度信息，通过反向传播，计算并更新所述图神经网络模型的参数；将更新后的参数传递到所述可信第三方服务器，其中，所述可信第三方服务器接收到所述更新后的参数之后进行平均计算，并将计算后的参数回传给各所述参与方服务器以更新所述图神经网络模型的参数；

迭代更新所述图神经网络模型及所述融合模型的参数直到所述交叉熵损失收敛，得到所述预先训练的图神经网络模型及所述预先训练的融合模型。