[发明专利]一种基于深度神经网络的网络表示学习方法

说明书

本发明涉及一种基于深度神经网络的网络表示学习方法，包括如下步骤：1)首先在网络中进行随机游走，得到节点序列；2)然后结合节点在节点序列中的位置信息，将节点序列中的各个节点转换成特征向量；3)基于深度双向转换编码器建立学习模型，将步骤2)经过处理的节点序列输入到学习模型中进行训练，得到网络中节点的表示向量。本发明结合节点在节点序列中的位置信息，更好地利用节点之间的关系信息。本发明将自然语言处理中的深度双向转换编码器用于网络表示学习，以更好地保留网络的局部结构和全局结构，进一步地提升了节点表示向量的准确度。

技术领域

本发明涉及网络表示学习技术领域，更具体地，涉及一种基于深度神经网络的网络表示学习方法。

背景技术

事物之间相互联系可以形成网络，其中蕴含了大量信息。直接使用高维稀疏的网络数据进行分析和挖掘，需要耗费很大的计算量。使用网络表示学习将网络中节点转化为低维的向量表示，再进行信息挖掘，可以节省很多计算量。获得节点的向量表示之后，可以将其作为输入再对网络进行挖掘，比如进行链路预测，节点分类和社区发现等。

网络表示学习(Network Representation Learning)，又名网络嵌入(NetworkEmbedding)、图嵌入(Graph Embedding)，它旨在将网络中的节点表示成低维、实值、稠密的向量形式，使得得到的向量形式可以在向量空间中具有表示以及推理的能力，同时可轻松方便的作为机器学习模型的输入，进而可将得到的向量表示运用到社交网络中常见的应用中，如可视化任务、节点分类任务、链接预测以及社区发现等任务，还可以作为社交边信息应用到推荐系统等其他常见任务中。网络表示学习是一种分布式的表示学习技术。

网络表示学习将网络中的节点信息转化为低维的向量表示。很多网络的结构稀疏，且从高维的稀疏向量表示得到低维稠密的向量表示过程中会有一些信息丢失，影响了网络表示学习得到的节点表示向量的准确度。目前已有的网络表示方法考虑了节点之间的关系，却忽略了网络的局部和全局结构信息，导致获得的节点表示向量不够准确。

发明内容

本发明要克服现有技术的上述缺点，提供一种基于深度神经网络的网络表示学习方法，利用网络的局部和全局结构信息进行网络表示学习，以获得更准确的节点表示向量。

一种基于深度神经网络的网络表示学习方法，包括如下步骤：

1)首先在网络中进行随机游走，得到节点序列；

2)然后结合节点在节点序列中的位置信息，将节点序列中的各个节点转换成特征向量；

3)基于深度双向转换编码器建立学习模型，将步骤2)经过处理的节点序列输入到学习模型中进行训练，得到网络中节点的表示向量。

优选地，所述的步骤1)具体如下：设定网络G＝(V,E)，其中V是网络中的节点，E是它的边，|V|表示网络中节点的数量；对于网络G，每次采样随机挑选一个顶点v_i作为随机游走的根节点，i的取值范围为[0,|V| -1]；一次游走从节点的邻居开始，到达最大长度t结束，从而得到由节点构成的节点序列S_j，j的取值范围为正整数；如下式所示：

S_j＝v_l，v₂，...，v_t (1)

对于每个节点，需要进行γ次长度为t的随机游走，其中i的取值范围为 [0,|V|-1]，j为正整数，γ的取值范围为[5,1000]，t的取值范围为[10,1000]。

为了更好地利用节点之间的关系信息以提升节点表示向量的准确度，将在网络中使用随机游走生成的节点序列进行处理，在节点的特征向量中结合各个节点在序列中的位置信息。优选地，所述的步骤2)具体如下：