[发明专利]图神经网络的训练方法及装置

说明书

本说明书实施例提供一种图神经网络的训练方法，包括：获取原始关系网络图，其中包括对应多个业务对象的多个对象节点，以及对象节点之间存在关联关系而形成的原始连接边；在该原始关系网络图中添加若干记忆节点，并在每个记忆节点和每个对象节点之间建立新增连接边，得到扩张关系网络图，用于对图神经网络进行多轮迭代更新，其中任一轮包括：利用图神经网络对扩张关系网络图进行图嵌入处理，在多个图神经网络隐层中的任一隐层，对上一隐层针对第一对象节点、其若干邻居对象节点和若干记忆节点输出的隐向量进行聚合，得到本隐层输出的第一对象隐向量；根据最后一个隐层输出的第一对象隐向量以及第一对象节点的业务标签，对图神经网络进行本轮更新。

技术领域

本说明书实施例涉及计算机技术领域，尤其涉及一种图神经网络的训练方法及装置。

背景技术

关系网络图是对现实世界中实体之间的关系的描述，目前广泛地应用于各种计算机信息处理中。一般地，关系网络图包含节点集合和边集合，节点表示现实世界中的实体，边表示现实世界中实体之间的联系。例如，在社交网络中，人就是实体，人和人之间的关系或联系就是边。

在很多情况下，希望对关系网络图中的节点、边等的拓扑特性进行分析，从中提取出有效信息，实现这类过程的计算方法称为图计算。典型地，希望将关系网络图中的每个节点(实体)用相同维度的向量来表示，也就是生成针对每个节点的节点向量。如此，生成的节点向量可以应用于计算节点和节点之间的相似度，发现图中的社团结构，预测未来可能形成的边联系，以及对图进行可视化等。

节点向量的生成方法已成为图计算的基础算法。根据一种方案，可以利用图神经网络(GraphNeural Networks，简称GNN)，生成关系网络图中节点的节点向量。通常，图神经网络在确定某个节点的嵌入表达时需要使用它多阶邻居的信息，但是，在阶数较少时，能够聚合的邻居信息有限，可能会导致邻近节点的节点向量类似，不具有区分度，而随着阶数的增加，邻居数量又会指数级上升，这对于计算资源和内存使用都会带来很大的负担。

因此，需要一种改进的方案，可以使得在利用图神经网络确定节点嵌入表达的过程中，通过聚合数量更多的其他节点的信息，提高节点嵌入表达的准确度，同时，尽可能压低内存和计算资源的消耗。

发明内容

采用本说明书描述的图神经网络的训练方法及装置，在原始关系网络图中增加与各个原始节点连接的记忆节点，使得在多阶聚合中，原始节点能够从所有节点中抽取有效信息，从而提高节点嵌入表达的准确度，同时，多阶聚合的阶数只需大于1即可，不会给内存和计算带来负担。

根据第一方面，提供一种图神经网络的训练方法，包括：

获取原始关系网络图，其中包括对应多个业务对象的多个对象节点，以及对象节点之间存在关联关系而形成的原始连接边；在所述原始关系网络图中添加若干记忆节点，并在每个记忆节点和每个对象节点之间建立新增连接边，得到扩张关系网络图；基于所述扩张关系网络图，对图神经网络进行多轮迭代更新，其中任一轮迭代更新包括：利用所述图神经网络对所述扩张关系网络图进行图嵌入处理，在所述图神经网络所包含L个隐层中的任一隐层，获取上一隐层针对第一对象节点、其若干邻居对象节点和若干记忆节点输出的隐向量，对获取的隐向量进行聚合，得到本隐层输出的第一对象隐向量，将第L个隐层输出的第一对象隐向量作为所述第一对象节点的对象节点嵌入向量；其中，L为大于1的整数；根据所述对象节点嵌入向量以及所述第一对象节点对应的业务标签，对所述图神经网络进行本轮更新。

在一个实施例中，在前L-1个隐层中的任一隐层，还获取上一隐层针对其他对象节点输出的隐向量，并对任一的第一记忆节点和所述多个对象节点的隐向量进行聚合，得到本隐层输出的第一记忆隐向量。