[发明专利]神经网络的内存分配方法、架构、电子设备及存储介质

权利要求书

1.神经网络的内存分配方法，其特征在于，包括：

确定算子节点的生命周期和所需的空间大小；

以内存空间位置为横轴，以所述算子节点所需的空间大小为纵轴建立二维坐标平面；

将所述算子节点的内存大小作为宽，所述算子节点的生命周期间隔作为高，生成矩形内存模型；

保持所述算子节点的生命周期间隔及内存空间大小不变，基于预设算法对所述矩形内存模型进行平移，直至总需求空间最小。

2.根据权利要求1所述的神经网络的内存分配方法，其特征在于，所述算子节点的算子总时间周期是确定的，所述二维坐标平面空间在内存空间位置方向生长。

3.根据权利要求1所述的神经网络的内存分配方法，其特征在于，所述预设算法包括装箱算法。

4.根据权利要求1所述的神经网络的内存分配方法，其特征在于，所述确定算子节点的生命周期和所需的空间大小，包括：

构建完整神经网络各层拓扑关系的有向无环图；

获取所述有向无环图中算子节点的生命周期和所需内存空间大小。

5.根据权利要求4所述的神经网络的内存分配方法，其特征在于，保持所述算子节点的生命周期间隔及内存空间大小不变，基于预设算法对所述矩形内存模型进行平移，包括：

对所述有向无环图按照预设静态内存空间大小进行分割；

对分割后的所述有向无环图的每一段所需的内存空间按照预设算法进行静态内存空间分配；

根据计算顺序动态进行静态内存空间分配。

6.根据权利要求5所述的神经网络的内存分配方法，其特征在于，所述方法还包括：

根据不同层所需的内存空间大小在预设范围内动态调整所述预设静态内存空间大小。

7.根据权利要求1所述的神经网络的内存分配方法，其特征在于，所述确定算子节点的生命周期和所需的空间大小，包括：

根据所述算子节点的拓扑依赖关系自动计算每个算子节点的中间特征数据的生命周期及内存空间大小。

8.根据权利要求1所述的神经网络的内存分配方法，其特征在于，所述方法还包括：

将所述算子节点的内存空间的使用记录定义为三元组(first_op_i,last_op,size_op_i)，则所述算子节点的生命周期为first_op_i至last_op，last_op为与当前算子first_op_i向前具有依赖关系的算子节点，size_op_i为所述算子节点所需的内存空间大小。

9.一种并行加速计算架构，其特征在于，用于实现权利要求1所述的神经网络的内存分配方法，所述并行加速计算架构包括内存、CPU、总线、第一解码器、第二解码器、第一缓存区、第二缓存区。

10.一种存储介质，其上存储有计算机程序，其中，所述程序被处理器运行时实现如权利要求1-8中任一所述的方法。

11.一种电子设备，其特征在于，包括：处理器和存储有计算机程序的存储器，所述处理器被配置为在运行计算机程序时实现权利要求1-8中任一所述的方法。