[发明专利]一种移动端的卷积神经网络任务调度方法及系统

权利要求书

1.一种移动端的卷积神经网络任务调度方法，其特征在于，包括如下步骤：

S1.针对计算任务，从预设的配置方案集合中选择满足预设条件的配置方案，所述配置方案包括CPU核心频率、GPU核心频率、最低网络延迟切分比率、和当前配置参数下的最低网络延迟；所述预设条件包括所述当前配置参数下的最低网络延迟低于预设延迟；

S2.将所述计算任务的卷积层输入张量按照所述最低网络延迟切分比率进行切分，切分得到CPU输入张量和GPU输入张量；

S3.以所述CPU输入张量作为CPU卷积神经网络的输入，计算得到CPU输出张量；以所述GPU输入张量作为GPU卷积神经网络的输入，计算得到GPU输出张量，根据所述CPU输出张量和所述GPU输出张量得到卷积神经网络的输出张量。

2.根据权利要求1所述的移动端的卷积神经网络任务调度方法，其特征在于：在所述步骤S2的具体步骤包括：

S2.1.根据所述最低网络延迟切分比率和所述卷积层输入张量的高度，确定所述CPU输入张量的高度和所述GPU输入张量的高度；

S2.2.根据所述卷积层输入张量和所述CPU输入张量的高度计算得到CPU输入张量，根据所述卷积层输入张量和所述GPU输入张量的高度计算得到GPU输入张量。

3.根据权利要求2所述的移动端的卷积神经网络任务调度方法，其特征在于：所述卷积层输入张量以图像格式存储；

在所述步骤S2.2中还包括：将计算得到的图像格式的CPU输入张量转换成缓存格式的CPU输入张量。

4.根据权利要求3所述的移动端的卷积神经网络任务调度方法，其特征在于：所述步骤S3包括：

将缓存格式的CPU输出张量转换成图像格式的CPU输出张量，将图像格式的CPU输出张量与图像格式的GPU输出张量合并，得到卷积神经网络的输出张量。

5.根据权利要求1至4任一项所述的移动端的卷积神经网络任务调度方法，其特征在于：所述配置方案还包括当前配置参数下设备的最高表面温度；所述预设条件包括所述当前配置参数下设备的最高表面温度小于预设的目标温度；

还包括最低网络延迟切分比率确定步骤S0：

所述步骤S0包括：将预设的基准卷积层任务以预设的初始切分比率进行切分，得到基准CPU任务和基准GPU任务，获取CPU执行所述基准CPU任务所需要的第一时长，获取GPU执行所述基准GPU任务所需要的第二时长，当所述第一时长小于所述第二时长，且两者之差小于预设的阈值，则以所述初始切分比率作为最低网络延迟切分比率，否则调整所述初始切分比率，并重复最低网络延迟切分比率确定步骤S0。

6.一种移动端的卷积神经网络任务调度系统，其特征在于：包括参数配置模块、切分模块和计算输出模块；

所述参数配置模块用于：针对计算任务，从预设的配置方案集合中选择满足预设条件的配置方案，所述配置方案包括CPU核心频率、GPU核心频率、最低网络延迟切分比率、和当前配置参数下的最低网络延迟；所述预设条件包括所述当前配置参数下的最低网络延迟低于预设延迟；

所述切分模块用于：将所述计算任务的卷积层输入张量按照所述最低网络延迟切分比率进行切分，切分得到CPU输入张量和GPU输入张量；

所述计算输出模块用于：以所述CPU输入张量作为CPU卷积神经网络的输入，计算得到CPU输出张量；以所述GPU输入张量作为GPU卷积神经网络的输入，计算得到GPU输出张量，根据所述CPU输出张量和所述GPU输出张量得到卷积神经网络的输出张量。

7.根据权利要求6所述的移动端的卷积神经网络任务调度系统，其特征在于：所述切分模块具体用于：

根据所述最低网络延迟切分比率和所述卷积层输入张量的高度，确定所述CPU输入张量的高度和所述GPU输入张量的高度；

根据所述卷积层输入张量和所述CPU输入张量的高度计算得到CPU输入张量，根据所述卷积层输入张量和所述GPU输入张量的高度计算得到GPU输入张量。