[发明专利]处理内存访问开销的方法、装置及介质

权利要求书

1.处理内存访问开销的方法，其特征在于，应用于深度学习过程，所述方法包括：

申请用于针对深度学习模型中至少一卷积操作进行数值填补操作的内存；

确定所述深度学习模型的输入数据；

使用所述深度学习模型对所述输入数据进行深度学习处理；

释放所述内存；

所述申请用于针对深度学习模型中至少一卷积操作进行数值填补操作的内存，包括：

确定N个卷积操作的填补后数据的尺寸中的最大尺寸，N为大于1的整数，为每层卷积操作均设置一尺寸与此最大尺寸相同的内存；或者，

使多个满足尺寸不增大规律的卷积操作共享一个内存。

2.如权利要求1所述的方法，其特征在于，

所述深度学习模型包括按顺序设置的N个卷积操作，N为大于1的整数；

所述申请用于针对深度学习模型中至少一卷积操作进行数值填补操作的内存，包括：

确定所述深度学习模型中第一个卷积操作的输入数据的尺寸；

根据所述第一个卷积操作的输入数据的尺寸确定所述N个卷积操作的输出数据的尺寸和所述N个卷积操作的输入数据执行数值填补操作后的数据尺寸；

确定所述N个卷积操作的输入数据执行数值填补操作后的数据尺寸中的最大尺寸；

申请N个内存，所述N个内存与所述N个卷积操作一一对应，所述N个内存的容量相同并且均对应于所述最大尺寸；

所述使用所述深度学习模型对所述输入数据进行深度学习处理包括：

执行每次卷积操作前，使用所述卷积操作对应的内存对所述卷积操作的输入数据进行数值填补。

3.如权利要求1所述的方法，其特征在于，

所述深度学习模型包括按顺序设置的N个卷积操作，N为大于1的整数；

所述申请用于针对深度学习模型中至少一卷积操作进行数值填补操作的内存，包括：

确定所述深度学习模型中第一个卷积操作的输入数据的尺寸；

根据所述第一个卷积操作的输入数据的尺寸确定所述N个卷积操作的输出数据的尺寸和所述N个卷积操作的输入数据执行数值填补操作后的数据尺寸；

根据所述N个卷积操作的输入数据执行数值填补操作后的数据尺寸确定K个卷积操作集合，所述N个卷积操作由所述K个卷积操作集合组成，每个卷积操作集合包含的连续的卷积操作的输出数据的尺寸满足不增大规律；

申请K个内存，所述K个内存与所述K个卷积操作集合一一对应，所述K个内存的容量分别对应于所述K个卷积操作集合中第一个卷积操作的输入数据执行数值填补操作后的数据尺寸，所述K是小于N的整数；

所述使用所述深度学习模型对所述输入数据进行深度学习处理，包括：

在执行每次卷积操作前，使用所述卷积操作所属的卷积操作集合所对应的内存对所述卷积操作的输入数据进行数值填补。

4.如权利要求1所述的方法，其特征在于，

所述深度学习模型包括按顺序设置的N个卷积操作，N为大于1的整数；

所述申请用于针对深度学习模型中至少一卷积操作进行数值填补操作的内存，包括：

确定所述深度学习模型中第一个卷积操作的输入数据的尺寸；

根据所述第一个卷积操作的输入数据的尺寸确定所述N个卷积操作的输出数据的尺寸和所述N个卷积操作的输入数据执行数值填补操作后的数据尺寸；

根据K个卷积操作的输入数据执行数值填补操作后的数据尺寸确定K个卷积操作集合，所述N个卷积操作由所述K个卷积操作集合组成，每个卷积操作集合中包含的卷积操作的输入数据执行数值填补操作后的数据尺寸相同；

申请K个内存，所述K个内存与所述K个卷积操作集合一一对应，所述K个内存的容量分别对应于K个卷积操作集合中任一卷积操作的输入数据执行数值填补操作后的数据尺寸，K是小于或等于N的整数；

所述使用所述深度学习模型对所述输入数据进行深度学习处理，包括：

在执行每次卷积操作前，使用所述卷积操作所属的卷积操作集合所对应的内存对所述卷积操作的输入数据进行数值填补。