[发明专利]一种计算资源调整方法、装置以及相关设备

说明书

本发明实施例公开了一种计算资源调整方法、装置以及相关设备，所述方法包括：获取目标池化层的期望池化耗时和目标池化层的待处理数据量，并获取用于进行池化处理的计算资源单位对应的当前时钟频率；根据所述目标池化层的期望池化耗时和所述目标池化层的待处理数据量，确定目标时钟频率；当所述目标池化层相关联的卷积层完成卷积处理，且所述当前时钟频率和所述目标时钟频率不同时，将所述当前时钟频率切换为所述目标时钟频率，并基于具有所述目标时钟频率的所述计算资源单位，在所述目标池化层进行池化处理。采用本发明，可以节约计算资源，提高计算资源的使用率。

技术领域

本发明涉及计算机技术领域，尤其涉及一种计算资源调整方法、装置以及相关设备。

背景技术

卷积神经网络(Convolution neural network，CNN)是人工神经网络的一种，现已成语音分析、图像识别、物体分类等领域的研究热点，它的权值共享网络结构使之更类似于生物神经网络，降低了网络模型的复杂度，减少了权值的数量。卷积神经网络主要是由卷积层和池化层(pooling)经过多种形式的堆叠形成，模型的深度也从十几层扩展到上百层。

随着模型深度的增加，对计算力的要求也逐渐增加。为了提高同一层算法的并行效率，要求同一层的卷积计算时间和池化计算时间相等或者相近。但算法中卷积计算和池化计算存在不均匀性，即是同一层的卷积计算量和池化计算量之间可能是正比例关系也可能是反比例关系。例如，第二层卷积计算量是第一层卷积计算量的2倍，但第二层池化计算量可能是第一层池化计算量的10倍，也可能是0.1倍。因此，若想要同一层的池化计算时间匹配卷积计算时间，只能优先满足条件最恶劣的场景要求，就会消耗大量的计算资源，而实际运行时存在计算资源空闲，造成计算资源的使用率低下。

发明内容

本发明实施例提供一种计算资源调整方法、装置以及相关设备，可以提高计算资源的使用率。

本发明一方面提供了一种计算资源调整方法，包括：

获取目标池化层的期望池化耗时和目标池化层的待处理数据量，并获取用于进行池化处理的计算资源单位对应的当前时钟频率；所述目标池化层的期望池化耗时与所述目标池化层相关联的卷积层的卷积预计耗时之间的差值小于时间阈值；

根据所述目标池化层的期望池化耗时和所述目标池化层的待处理数据量，确定目标时钟频率；

当所述目标池化层相关联的卷积层完成卷积处理，且所述当前时钟频率和所述目标时钟频率不同时，将所述当前时钟频率切换为所述目标时钟频率，并基于具有所述目标时钟频率的所述计算资源单位，在所述目标池化层进行池化处理。

其中，还包括：

预测多个卷积层的卷积预计耗时，并根据所述多个卷积层的卷积预计耗时确定多个池化层的期望池化耗时，并根据所述多个池化层的期望池化耗时确定池化期望值；

预测多个池化层的待处理数据量，根据所述多个池化层的待处理数据量确定基础池化数据量；

根据所述池化期望值、所述基础池化数据量、具有平均时钟频率的所述计算资源单位的计算能力值，确定用于进行池化处理的计算资源单位的数量；所述平均时钟频率是系统提供的多个时钟频率的平均值。

其中，所述根据所述多个卷积层的卷积预计耗时确定多个池化层的期望池化耗时，并根据所述多个池化层的期望池化耗时确定池化期望值，包括：

根据所述多个卷积层的卷积预计耗时确定所述多个池化层的期望池化耗时；位于相同层中的卷积层的卷积预计耗时和池化层的期望池化耗时之间的差值小于所述时间阈值；

计算所述多个池化层的期望池化耗时的平均值，并将所述平均值确定为所述池化期望值。

其中，所述根据所述多个池化层的待处理数据量确定基础池化数据量，具体包括：