[发明专利]一种神经网络计算的内存管理方法

权利要求书

1.一种神经网络计算的内存管理方法，其特征包括：

对于张量计算所需的输入、临时、输出数据均有指定的数据区，用于进行数据读写访问。

2.根据权利要求1所述的数据区，其特征还在于：

静态分配：在张量计算运行前，根据算法配置及计算特点，确定内存需求大小；为每一具体运算固定分配所需内存的地址和空间；

数据复用：计算过程中，在复用数据之间直接复用相同的存储空间，进行数据共享，节省数据搬运等系统开销；节省空间碎片的开销，降低内存管理复杂度；

直接操作：计算运行前，根据算法的配置初始化存储区描述和数据描述的指针，偏移量，长度，层编号；计算运行中，根据存储区描述和数据描述值，通过简单计算直接获取算子所需数据项在存储区的地址，完成读写操作。

3.根据权利要求1所述的数据区，其特征还在于：

该存储区分配只读和读写两种属性；只读数据只能初始化和读取、可做算子间分享，数据不能更新，不能复用为可写区间；

可读写数据可被读写和复用、可做算子间复用。

4.根据权利要求1所述的数据区，其特征还在于：

各数据区对应有其数据描述区；根据计算需求和硬件部署策略的需要，描述了该数据区：是否需要初始化；是否可复用；是否需要保留，及保留的生命周期。

5.根据权利要求4所述的数据描述区，其特征在于：

在部署计算前，采用预先编译的方法得到明确。