[发明专利]一种神经网络的内存分配方法及装置

权利要求书

1.一种神经网络的内存分配方法，其特征在于，所述神经网络在运行时，需占用N个内存块，所述N为大于等于1的整数，所述方法包括：

确定所述N个内存块的信息，所述N个内存块的信息包括所述N个内存块的大小和所述N个内存块中每个内存块一一对应的节点集合，所述每个内存块用于进行所述神经网络中与所述每个内存块一一对应的节点集合的运算；

根据所述N个内存块的大小，对所述N个内存块进行由大到小排序，获得所述N个内存块的排序序列；

分配第一内存块给所述神经网络，用于进行所述神经网络中第一节点集合的运算，其中，所述第一内存块为所述N个内存块中大小最大的内存块；

判断第n内存块是否可复用已分配集合中的内存块，所述已分配集合中包括已经分配给所述神经网络的内存块，如果所述第n内存块可复用所述已分配集合中的内存块，则将所述可复用的内存块分配给所述神经网络，用于进行所述神经网络中第n节点集合的运算，并更新所述已分配集合，其中，所述n为大于或等于2，小于或等于N的正整数；

根据所述排序序列，从n＝2到n＝N依次执行上述判断，若判断为是，则更新所述已分配集合；

其中，所述判断第n内存块是否可复用已分配集合中的内存块，包括：

判断所述第n节点集合与第x节点集合之间的交集是否为0，若为0，则判断所述第n内存块可复用所述第x节点集合对应的第x内存块，其中，所述已分配集合包括所述第x内存块，所述第x内存块用于进行所述神经网络中所述第x节点集合的运算，x为小于n的正整数。

2.如权利要求1所述的方法，其特征在于，所述方法还包括：

如果所述第n内存块不可复用所述已分配集合中的内存块，则分配所述第n内存块给所述神经网络，用于进行所述神经网络中所述第n节点集合的运算。

3.如权利要求1或2项所述的方法，其特征在于，所述更新所述已分配集合，包括：

根据所述第n节点集合，更新所述可复用的内存块所对应的节点集合。

4.如权利要求1至3任一项所述的方法，其特征在于，所述确定所述N个内存块的信息，包括：

运行所述神经网络；

记录所述神经网络中每个节点的输入参数所占用内存块的信息和所述每个节点的输出参数所占用内存块的信息，以及所述每个节点的中间参数所占用内存块的信息；

根据所述神经网络中每个节点的输入参数所占用内存块的信息、输出参数所占用内存块的信息以及中间参数所占用内存块的信息，确定所述N个内存块的信息。

5.一种神经网络的内存分配装置，其特征在于，所述神经网络在运行时，需占用N个内存块，所述N为大于等于1的整数，所述装置包括：

确定单元，用于确定所述N个内存块的信息，所述N个内存块的信息包括所述N个内存块的大小和所述N个内存块中每个内存块一一对应的节点集合，所述每个内存块用于进行所述神经网络中与所述每个内存块一一对应的节点集合的运算；

排序单元，用于根据所述N个内存块的大小，对所述N个内存块进行由大到小排序，获得所述N个内存块的排序序列；

第一分配单元，用于分配第一内存块给所述神经网络，用于进行所述神经网络中第一节点集合的运算，其中，所述第一内存块为所述N个内存块中大小最大的内存块；

判断单元，用于判断第n内存块是否可复用已分配集合中的内存块，所述已分配集合中包括已经分配给所述神经网络的内存块；

第二分配单元，用于在所述第n内存块可复用所述已分配集合中的内存块时，将所述可复用的内存块分配给所述神经网络，用于进行所述神经网络中第n节点集合的运算，并更新所述已分配集合，其中，所述n为大于或等于2，小于或等于N的正整数；根据所述排序序列，从n＝2到n＝N依次执行上述判断，若判断为是，则更新所述已分配集合；

其中，所述判断单元，具体用于：

判断所述第n节点集合与第x节点集合之间的交集是否为0，若为0，则判断所述第n内存块可复用所述第x节点集合对应的第x内存块，其中，所述已分配集合包括所述第x内存块，所述第x内存块用于进行所述神经网络中所述第x节点集合的运算，x为小于n的正整数。