[发明专利]面向超大规模图的架构搜索方法、装置、设备及存储介质

权利要求书

1.一种面向超大规模图的架构搜索方法，其特征在于，所述方法包括：

对超大图进行局部采样，得到所述超大图的一个子图；

通过预先定制的重要性采样策略，从预先构建的超网络中采样多个神经网络架构；

采用同伴学习方法，通过所述子图对所述多个神经网络架构进行训练，得到多个训练好的神经网络架构；

迭代执行上述子图采样、架构采样以及架构训练步骤，得到训练好的超网络；

对所述超网络进行架构搜索，得到所述超大图对应的最优架构。

2.根据权利要求1所述的方法，其特征在于，所述对超大图进行局部采样，得到所述超大图的一个子图，包括：

从所述超大图中确定一个采样区域；

对所述采样区域中的节点和边进行采样，得到所述子图。

3.根据权利要求1所述的方法，其特征在于，所述通过预先定制的重要性采样策略，从预先构建的超网络中随机采样多个神经网络架构，所述重要性采样策略的定制步骤为：

在进行架构采样时，通过智能体进行决策，从所述超网络中确定多个神经网络架构，对所述多个神经网络架构进行采样；

通过所述多个神经网络架构对图数据进行处理，得到图数据处理结果；

根据所述图数据处理结果的准确度，为所述智能体返回奖励值；

所述智能体根据所述奖励值的大小对下一次采样时的策略进行调整；

迭代执行上述智能体决策、图数据处理、返回奖励值以及策略调整步骤，得到训练好的智能体，所述智能体执行的架构采样策略为所述重要性采样策略。

4.根据权利要求1所述的方法，其特征在于，所述超网络中包含所有的图网络层，每一个所述图网络层中包含有所有的信息传递方法。

5.根据权利要求1所述的方法，其特征在于，所述采用同伴学习方法，通过所述子图对所述多个神经网络架构进行训练，得到多个训练好的神经网络架构，包括：

将所述多个神经网络架构作为一个学习团队；

从所述学习团队中选择一个最佳架构，通过所述最佳架构对所述子图中的每个节点进行分类难度评估，得到每个所述节点的分类难度值；

根据每个所述节点的分类难度值，设置每个所述节点的损失值的权重；

根据所述损失值，对所述多个神经网络架构的参数进行调整，得到多个训练好的神经网络架构。

6.根据权利要求5所述的方法，其特征在于，所述从所述学习团队中选择一个最佳架构，通过所述最佳架构对所述子图中的每个节点进行难度评估，得到每个所述节点的难度值，包括：

通过所述多个神经网络架构中的每个神经网络架构对所述子图的节点进行分类，得到多个神经网络对应的节点分类结果；

对所述节点分类结果进行准确率统计，选择准确率最高的节点分类结果对应的神经网络架构为所述最佳架构；

根据所述最佳架构对应的节点分类结果，对所述子图中的每个节点进行分类难度评估，得到每个所述节点的分类难度值。

7.根据权利要求5所述的方法，其特征在于，所述根据每个所述节点的分类难度值，设置每个所述节点的损失值的权重，包括：

当所述节点的分类难度值较高时，为该节点的损失值设置较低的权重；

当所述节点的分类难度值较低时，为该节点的损失值设置较高的权重。

8.一种面向超大规模图的架构搜索装置，其特征在于，所述装置包括：

子图采样模块，用于对超大图进行局部采样，得到所述超大图的一个子图；

架构采样模块，用于通过预先定制的重要性采样策略，从预先构建的超网络中采样多个神经网络架构；

架构训练模块，用于采用同伴学习方法，通过所述子图对所述多个神经网络架构进行训练，得到多个训练好的神经网络架构；

超网络训练模块，用于迭代执行上述子图采样、架构采样以及架构训练步骤，得到训练好的超网络；

架构搜索模块，用于对所述超网络进行架构搜索，得到所述超大图对应的最优架构。