[发明专利]优化深度学习网络的运行过程的方法、装置及存储介质

权利要求书

1.一种优化深度学习网络的运行过程的方法，其特征在于，所述方法包括：

按照深度学习网络包括的多个计算层的先后顺序，从所述多个计算层中确定一个或多个分支开始层和一个或多个分支结束层，每个分支开始层的输出数据为两个或两个以上的其他计算层的输入数据，每个分支结束层的输入数据来自两个或两个以上的其他计算层，或者，每个分支结束层后不存在其他计算层；

根据所述一个或多个分支开始层和所述一个或多个分支结束层，对所述深度学习网络进行拆分，得到多个子网络，所述多个子网络中存在具有分支开始层和分支结束层的子网络；

根据每个子网络包括的每个计算层的输入数据的来源，确定每个子网络对应的一种或多种运行顺序，所述一种或多种运行顺序中的每种运行顺序用于指示运行相应子网络包括的计算层的一种顺序；

根据每个子网络在所述深度学习网络中的先后顺序和所述多个子网络确定得到的运行顺序，确定所述深度学习网络的多种运行顺序，所述多种运行顺序中的每种运行顺序用于指示运行所述多个计算层的一种顺序；

确定所述多种运行顺序中每种运行顺序所需的内存开销；

根据所述多种运行顺序中每种运行顺序所需的内存开销，确定所述多个计算层的最优运行顺序。

2.根据权利要求1所述的方法，其特征在于，所述确定所述多种运行顺序中每种运行顺序所需的内存开销，包括：

确定每个子网络对应的一种或多种运行顺序中每种运行顺序所需的内存开销。

3.根据权利要求2所述的方法，其特征在于，所述确定每个子网络对应的一种或多种运行顺序中每种运行顺序所需的内存开销，包括：

对于第一子网络的第一运行顺序，确定按照所述第一运行顺序运行所述第一子网络中的计算层时，每个计算层所需的内存开销，所述第一子网络是指所述多个子网络中的任一子网络，所述第一运行顺序是指所述第一子网络对应的一种或多种运行顺序中的任一运行顺序；

从每个计算层所需的内存开销中确定最大内存开销；

将所述最大内存开销作为所述第一运行顺序所需的内存开销。

4.根据权利要求2或3所述的方法，其特征在于，所述根据所述多种运行顺序中每种运行顺序所需的内存开销，确定所述多个计算层的最优运行顺序，包括：

从每个子网络对应的一种或多种运行顺序中，确定所需的内存开销最小的运行顺序；

根据每个子网络对应的内存开销最小的运行顺序，确定所述多个计算层的最优运行顺序。

5.一种优化深度学习网络的运行过程的装置，其特征在于，所述装置包括：

第一确定模块，用于按照深度学习网络包括的多个计算层的先后顺序，从所述多个计算层中确定一个或多个分支开始层和一个或多个分支结束层，每个分支开始层的输出数据为两个或两个以上的其他计算层的输入数据，每个分支结束层的输入数据来自两个或两个以上的其他计算层，或者，每个分支结束层后不存在其他计算层；根据所述一个或多个分支开始层和所述一个或多个分支结束层，对所述深度学习网络进行拆分，得到多个子网络，所述多个子网络中存在具有分支开始层和分支结束层的子网络；根据每个子网络包括的每个计算层的输入数据的来源，确定每个子网络对应的一种或多种运行顺序，所述一种或多种运行顺序中的每种运行顺序用于指示运行相应子网络包括的计算层的一种顺序；根据每个子网络在所述深度学习网络中的先后顺序和所述多个子网络确定得到的运行顺序，确定所述深度学习网络的多种运行顺序，所述多种运行顺序中的每种运行顺序用于指示运行所述多个计算层的一种顺序；

第二确定模块，用于确定所述多种运行顺序中每种运行顺序所需的内存开销；

第三确定模块，用于根据所述多种运行顺序中每种运行顺序所需的内存开销，确定所述多个计算层的最优运行顺序。

6.根据权利要求5所述的装置，其特征在于，所述第二确定模块包括：

第三确定单元，用于确定每个子网络对应的一种或多种运行顺序中每种运行顺序所需的内存开销。