[发明专利]神经网络模型的训练方法、装置及电子设备

说明书

本申请公开了一种神经网络模型的训练方法、装置及电子设备，属于互联网技术领域。该方法获取多个第一节点分别对应的第一特征向量和等多个第一节点之间的多种关联关系分别对应的权重矩阵，基于多种关联关系的第一数量，对多个权重矩阵分别进行整合，得到多个第一权重参数，基于多个第一节点分别对应的第一特征向量，对多个第一权重参数进行迭代优化，直至多个第一权重参数满足收敛条件，得到多个第二权重参数，基于多个第二权重参数和多个第一节点分别对应的第一特征向量，进行模型训练，得到目标神经网络模型。该方法将一个权重矩阵整合成一个权重参数，这样可以大大减少参数量，缓解过参数的问题，从而提高模型训练效率。

技术领域

本申请涉及互联网技术领域，特别涉及一种神经网络模型的训练方法、装置及电子设备。

背景技术

近年来，图神经网络在社交网络、生物医药等各个领域得到了越来越广泛的应用。图神经网络是使用神经网络来学习图结构数据，从而完成分类、预测等任务。图结构数据包括节点和边，节点为具有特征的实体，例如，商品、图像、视频等，边用来表示其连接的两个节点之间的关联关系。由于节点之间往往存在多种关联关系，因此，多关系图神经网络成为了当前研究的重点。

相关技术中，在训练多关系图神经网络时，对于图结构数据中的多个节点，确定该多个节点分别对应的特征向量和多个节点之间的多种关联关系分别对应的权重矩阵，一种关联关系对应一个权重矩阵，该权重矩阵用于表示该关联关系的重要程度。根据多个节点分别对应的特征向量和多个权重矩阵进行模型训练，得到神经网络模型。

但权重矩阵一般为n×m的矩阵，也即一个权重矩阵中包括n×m个权重参数，该权重参数用于表示存在关联关系的两个节点之间的相似度，n和m均为大于0的整数。由于一种关联关系对应一个权重矩阵，因此，随着关联关系数量的增加，权重矩阵的数量会越来越大，参数量也会越来越大，造成模型训练时间过长，导致模型训练效率低。

发明内容

本申请实施例提供了一种神经网络模型的训练方法、装置及电子设备,可以提高模型训练效率。该技术方案如下：

一方面，提供了一种神经网络模型的训练方法，该方法包括：

获取多个第一节点分别对应的第一特征向量和所述多个第一节点之间的多种关联关系分别对应的权重矩阵，一种关联关系对应一个权重矩阵；

基于所述多种关联关系的第一数量，对多个权重矩阵分别进行整合，得到多个第一权重参数，一个权重矩阵对应一个第一权重参数，所述第一权重参数用于表示所述关联关系的重要程度；

基于所述多个第一节点分别对应的第一特征向量，对所述多个第一权重参数进行迭代优化，直至所述多个第一权重参数满足收敛条件，得到多个第二权重参数；

基于所述多个第二权重参数和所述多个第一节点分别对应的第一特征向量，进行模型训练，得到目标神经网络模型。

一方面，提供了一种神经网络模型的训练装置，该装置包括：

第一获取模块，用于获取多个第一节点分别对应的第一特征向量和所述多个第一节点之间的多种关联关系分别对应的权重矩阵，一种关联关系对应一个权重矩阵；

整合模块，用于基于所述多种关联关系的第一数量，对多个权重矩阵分别进行整合，得到多个第一权重参数，一个权重矩阵对应一个第一权重参数，所述第一权重参数用于表示所述关联关系的重要程度；

优化模块，用于基于所述多个第一节点分别对应的第一特征向量，对所述多个第一权重参数进行迭代优化，直至所述多个第一权重参数满足收敛条件，得到多个第二权重参数；

训练模块，用于基于所述多个第二权重参数和所述多个第一节点分别对应的第一特征向量，进行模型训练，得到目标神经网络模型。