[发明专利]一种神经网络前向计算过程中的内存管理方法及设备

权利要求书

1.一种神经网络前向计算过程中的内存管理方法，其特征在于，包括：

获取层的层输出，其中，所述层表示计算单元；

分别针对每一个层输出执行以下操作，以实现对每一个层输出的内存分配：若查找到内存池中计数标记为第一标记的第一内存块，则将所述第一内存块分配给当前层输出，并将所述第一内存块的第一标记更改为第二标记，其中，所述计数标记用于表示其对应的内存块的使用状态，所述第一标记表示内存块处于可复用状态，所述第二标记表示内存块处于不可复用状态；

获取所述层的层输入，分别确定每一个层输入的前层输出，以及更改所述前层输出的内存块的计数标记，以便所述前层输出的内存块进行复用，其中，所述前层输出表示传递数据给层输入的层的层输出。

2.如权利要求1所述的方法，其特征在于，若未查找到内存池中计数标记为所述第一标记的内存块时，则为所述当前层输出新建第二内存块，并将所述第二内存块的计数标记设置为所述第二标记。

3.如权利要求1所述的方法，其特征在于，所述将所述第一内存块的第一标记更改为第二标记，具体包括：

获取引用所述当前层输出的层输入的数量；

将所述第一标记更改为与所述数量相同的第二标记。

4.如权利要求1-3中任一项所述的方法，其特征在于，若查找到内存池中计数标记为第一标记的第一内存块，则将所述第一内存块分配给当前层输出，包括：

若查找到内存池中计数标记为第一标记、且内存大小大于或等于当前层输出的大小的第一内存块，则将第一内存块分配给所述当前层输出；

否则，将查找到的内存池中计数标记为第一标记、且内存大小小于当前层输出的大小的内存块作为备选内存块，确定所述备选内存块中内存大小最大的第一内存块，按照所述当前层输出的大小调整第一内存块的内存大小，并将调整后的第一内存块分配给所述当前层输出。

5.如权利要求1-3中任一项所述的方法，其特征在于，所述更改每一个层输入的前层输出的内存块的计数标记，具体包括：

获取所述每一个层输入的前层输出的内存块的目标计数标记；

将所述目标计数标记的计数值减去一个计数单位。

6.一种内存管理设备，其特征在于，包括：

第一获取单元，用于获取层的层输出，其中，所述层表示计算单元；

分配单元，用于分别针对每一个层输出执行以下操作，以实现对每一个层输出的内存分配：若查找到内存池中计数标记为第一标记的第一内存块，则将所述第一内存块分配给当前层输出，并将所述第一内存块的第一标记更改为第二标记，其中，所述计数标记用于表示其对应的内存块的使用状态，所述第一标记表示内存块处于可复用状态，所述第二标记表示内存块处于不可复用状态；

第二获取单元，用于获取所述层的层输入，分别确定每一个层输入的前层输出，以及更改所述前层输出的内存块的计数标记，以便所述前层输出的内存块进行复用，其中，所述前层输出表示传递数据给层输入的层的层输出。

7.如权利要求6所述的设备，其特征在于，所述分配单元还用于：

若未查找到内存池中计数标记为所述第一标记的内存块时，则为所述当前层输出新建第二内存块，并将所述第二内存块的计数标记设置为所述第二标记。

8.如权利要求6所述的设备，其特征在于，所述分配单元还用于：

获取引用所述当前层输出的层输入的数量；

将所述第一标记更改为与所述数量相同的第二标记。

9.如权利要求6-8中任一项所述的设备，其特征在于，所述分配单元还用于：

若查找到内存池中计数标记为第一标记、且内存大小大于或等于当前层输出的大小的第一内存块，则将第一内存块分配给所述当前层输出；

否则，将查找到的内存池中计数标记为第一标记、且内存大小小于当前层输出的大小的内存块作为备选内存块，确定所述备选内存块中内存大小最大的第一内存块，按照所述当前层输出的大小调整第一内存块的内存大小，并将调整后的第一内存块分配给所述当前层输出。