[发明专利]一种矩阵计算的方法、系统及编译器

权利要求书

1.一种矩阵计算的方法，其特征在于，应用于矩阵计算的系统，所述系统包括编译器和至少一个用于矩阵计算的硬件；

所述方法包括：

所述编译器获取矩阵计算的源代码，所述源代码包括导语以及矩阵计算任务，所述导语用于指示生成所述矩阵计算任务的文件；

所述编译器获取所述矩阵计算任务的编译类型；

所述编译器根据所述编译类型从所述至少一个用于矩阵计算的硬件中确定执行所述矩阵计算任务的目标硬件；

所述编译器根据所述导语生成所述矩阵计算任务的文件，并将所述文件发送至所述目标硬件；

所述目标硬件根据所述文件执行所述矩阵计算任务。

2.根据权利要求1所述的方法，其特征在于，所述编译器根据所述编译类型从所述至少一个矩阵计算的硬件中确定执行所述矩阵计算任务的目标硬件，包括：

所述编译器根据预设的策略从满足所述编译类型的硬件中选择用于执行所述矩阵计算任务的目标硬件；或者

所述导语包括用于指示执行所述矩阵计算任务的硬件的指示信息，所述编译器根据所述指示信息和所述编译类型确定用于执行所述矩阵计算任务的目标硬件。

3.根据权利要求2所述的方法，其特征在于，所述编译器根据预设的策略从满足所述编译类型的硬件中选择用于执行所述矩阵计算任务的目标硬件，包括：

所述编译器根据每个满足所述编译类型的硬件的计算能力和/或当前负载，从满足所述编译类型的硬件中选择用于执行所述矩阵计算任务的硬件。

4.根据权利要求1-3任一项所述的方法，其特征在于，所述执行所述矩阵计算任务的硬件，包括主机或与所述主机连接的硬件。

5.根据权利要求1-4任一项所述的方法，其特征在于，所述硬件包括以下一种或多种：加速卡，图形处理器GPU，神经网络处理器NPU，张量处理单元TPU。

6.根据权利要求1-4任一项所述的方法，其特征在于，所述导语基于OpenMP或OpenACC实现。

7.一种矩阵计算系统，其特征在于，包括编译器和至少一个用于矩阵计算的硬件；

所述编译器，用于获取矩阵计算的源代码，所述源代码包括导语以及矩阵计算任务，所述导语用于指示生成所述矩阵计算任务的文件；获取所述矩阵计算任务的编译类型；根据所述编译类型从所述至少一个用于矩阵计算的硬件中确定执行所述矩阵计算任务的目标硬件；根据所述导语生成所述矩阵计算任务的文件，并将所述文件发送至所述目标硬件；

所述目标硬件根据所述文件执行所述矩阵计算任务。

8.根据权利要求7所述的系统，其特征在于，所述编译器，在根据所述编译类型从所述至少一个矩阵计算的硬件中确定执行所述矩阵计算任务的目标硬件时，具体用于：

根据预设的策略从满足所述编译类型的硬件中选择用于执行所述矩阵计算任务的目标硬件；或者

所述导语包括用于指示执行所述矩阵计算任务的硬件的指示信息，根据所述指示信息和所述编译类型确定用于执行所述矩阵计算任务的目标硬件。

9.根据权利要求8所述的系统，其特征在于，所述编译器，在根据预设的策略从满足所述编译类型的硬件中选择用于执行所述矩阵计算任务的目标硬件时，具体用于：

根据每个满足所述编译类型的硬件的计算能力和/或当前负载，从满足所述编译类型的硬件中选择用于执行所述矩阵计算任务的硬件。

10.根据权利要求7-9任一项所述的系统，其特征在于，所述执行所述矩阵计算任务的硬件，包括主机或与所述主机连接的硬件。

11.根据权利要求7-10任一项所述的方法，其特征在于，所述硬件包括以下一种或多种：加速卡，图形处理器GPU，神经网络处理器NPU，张量处理单元TPU。