[发明专利]一种矩阵运算方式的选择方法、装置、设备以及存储介质

说明书

本发明公开了一种矩阵运算方式的选择方法、装置、设备以及存储介质，属于深度学习技术领域。该方法包括：识别神经网络所处的候选硬件环境；其中所述候选硬件环境包括CPU、AVX、SSE以及昇腾设备中至少一种；从至少一种候选硬件环境中确定目标硬件环境，并确定所述目标硬件所对应的目标矩阵运算方式；采用所述目标矩阵运算方式对所述神经网络进行运算。通过上述技术方案，可以智能选择神经网络所在运行环境的矩阵运算能力，可以最大化利用硬件能力以加速矩阵运算速度。

技术领域

本发明实施例涉及深度学习技术领域，尤其涉及一种矩阵运算方式的选择方法、装置、设备以及存储介质。

背景技术

AI深度学习主要采用神经网络算法，神经网络的前向和后向计算中最主要的运算是大型浮点数矩阵的计算。如何提高神经网络程序的运算速度尤为重要。

发明内容

本发明提供一种矩阵运算方式的选择方法、装置、设备以及存储介质，以。

第一方面，本发明实施例提供了一种矩阵运算方式的选择方法，该方法包括：

识别神经网络所处的候选硬件环境；其中所述候选硬件环境包括CPU、AVX、SSE以及昇腾设备中至少一种；

从至少一种候选硬件环境中确定目标硬件环境，并确定所述目标硬件所对应的目标矩阵运算方式；

采用所述目标矩阵运算方式对所述神经网络进行运算。

第二方面，本发明实施例还提供了一种矩阵运算方式的选择装置，该装置包括：

候选环境识别模块，用于识别神经网络所处的候选硬件环境；其中所述候选硬件环境包括CPU、AVX、SSE以及昇腾设备中至少一种；

目标确定模块，用于从至少一种候选硬件环境中确定目标硬件环境，并确定所述目标硬件所对应的目标矩阵运算方式；

运算模块，用于采用所述目标矩阵运算方式对所述神经网络进行运算。

第三方面，本发明实施例还提供了一种电子设备，该电子设备包括：

一个或多个处理器；

存储器，用于存储一个或多个程序；

当所述一个或多个程序被所述一个或多个处理器执行，使得所述一个或多个处理器实现如本发明任一实施例所提供的矩阵运算方式的选择方法。

第四方面，本发明实施例还提供了一种计算机可读存储介质，其上存储有计算机程序，该程序被处理器执行时实现如本发明任一实施例所提供的矩阵运算方式的选择方法。

本发明实施例的技术方案，通过识别神经网络所处的候选硬件环境；其中候选硬件环境包括CPU、AVX、SSE以及昇腾设备中至少一种；之后从至少一种候选硬件环境中确定目标硬件环境，并确定目标硬件所对应的目标矩阵运算方式，进而采用目标矩阵运算方式对神经网络进行运算。上述技术方案，可以智能选择神经网络所在运行环境的矩阵运算能力，可以最大化利用硬件能力以加速矩阵运算速度。

附图说明

图1是本发明实施例一提供的一种矩阵运算方式的选择方法的流程图；

图2是本发明实施例二提供的一种矩阵运算方式的选择方法的流程图；

图3是本发明实施例三提供的一种矩阵运算方式的选择装置的结构示意图；

图4是本发明实施例四提供的一种电子设备的结构示意图。

具体实施方式

下面结合附图和实施例对本发明作进一步的详细说明。可以理解的是，此处所描述的具体实施例仅仅用于解释本发明，而非对本发明的限定。另外还需要说明的是，为了便于描述，附图中仅示出了与本发明相关的部分而非全部结构。