[发明专利]一种基于众核处理器的神经网络的映射方法及计算设备

说明书

本发明提供了一种基于众核处理器的神经网络的映射方法及计算设备，该方法包括：获取待映射神经网络，对所述待映射神经网络的所有网络层按顺序进行组合，划分为多个网络层组；将所述所有网络层中的每个网络层进行拆分，每个所述网络层包括多层子网络层；根据预设规则对属于同一网络层组中的子网络层进行融合，得到多个子网络层组，将所述多个子网络层组分别映射至预置的众核处理器的多个内核。基于本发明提供的方法可以分配众核处理器每个核的计算、存储、路由等资源，使得神经网络的运行更加高效的同时，使得众核处理器各内核负载较传统方案来讲更加均衡，有效提升计算和存储资源效率。

技术领域

本发明涉及处理器技术领域，特别是涉及一种基于众核处理器的神经网络的映射方法及计算设备。

背景技术

随着人工智能技术在各个领域的不断应用，各种各样的运行人工智能算法的硬件平台应运而生，众核处理器便是其中之一。神经网络算法是一种主流的人工智能算法，拥有高计算量、高并行度的特点。这些特点使得神经网络适合在众核架构上运行，这也是为什么众核处理器架构是目前构建神经网络加速器的一种重要方式。而在神经网络算法及合适的众核处理器的基础上，如何将神经网络算法映射到处理器上，以及如何分配众核处理器每个核的计算、存储、路由等资源，则是亟待解决的问题。

发明内容

鉴于上述问题，本发明提供了一种克服上述问题或至少部分地解决了上述问题的一种基于众核处理器的神经网络的映射方法及计算设备。

根据本发明的一个方面，提供了一种基于众核处理器的神经网络的映射方法，包括：

获取待映射神经网络，对所述待映射神经网络的所有网络层按顺序进行组合，划分为多个网络层组；

将所述所有网络层中的每个网络层进行拆分，每个所述网络层包括多层子网络层；

根据预设规则对属于同一所述网络层组中的子网络层进行融合，得到多个子网络层组，将所述多个子网络层组分别映射至预置的众核处理器的多个内核。通过对神经网络进行组内拆分后再进行组内融合并映射至内核，可以在极大减少众核处理器中各个核之间的路由，进而提升处理器的处理效率。

可选地，所述根据预设规则对属于同一网络层组中的子网络层进行融合，得到多个子网络层组之后，将所述多个子网络层组分别映射至预置的众核处理器的多个内核之前，还包括：

判断所述子网络层组包括的网络层数是否大于第一预设阈值；

若至少一个所述子网络层组包括的网络层数大于所述第一预设阈值，则对网络层数大于所述第一预设阈值的所述子网络层组所属的网络层组重新进行组内拆分。组内融合时，可能由于网络分组时将一个组分配的过大，组内含有的层数过多，进而超出一个核能负担的资源上限，此时，通过重新进行分组，减小这一组内网络层的数量，以实现各核的负载均衡。

可选地，所述将所述多个子网络层组分别映射至预置的众核处理器的多个内核之后，还包括：

在所述多个内核中筛选出资源利用率低于预设指标的第一内核，所述第一内核为至少一个；

对所述第一内核对应的子网络层组再次进行融合得到至少一个第一子网络层组，将所述第一子网络层组重新映射至所述众核处理器的第二内核。经过上述步骤得到若干映射后的核后，其中可能存在资源利用率较低的核，通过将资源利用率较低的核进行再融合，以有效减少处理器运行中调度所需的开销。

可选地，所述将所述多个子网络层组分别映射至预置的众核处理器的多个内核之后，还包括：

判断所述众核处理器中是否存在剩余内核；

若存在剩余内核，则获取所述众核处理器中资源耗费率大于第二预设阈值的至少一个第三内核；