[发明专利]一种提高GEMM计算性能的方法及装置

权利要求书

1.一种提高GEMM计算性能的方法，其特征在于，包括：

获取待优化的通用矩阵-矩阵乘GEMM计算的参数，所述GEMM计算为第一矩阵乘以第二矩阵的计算，所述GEMM计算的参数基于矩阵参数确定，所述矩阵参数包括矩阵规模参数和/或矩阵形状参数集，所述矩阵规模参数为所述第一矩阵的行数、所述第一矩阵的列数和所述第二矩阵的列数的最大公约数，所述矩阵形状参数集中包括:第一参数、第二参数和第三参数，所述第一参数为所述第一矩阵的行数与第一数值的比值，所述第二参数为所述第一矩阵的列数与所述第一数值的比值，所述第三参数为所述第二矩阵的列数与所述第一数值的比值，所述第一数值为所述矩阵规模参数；

从参考的GEMM计算的参数中查询目标参数，所述参考的GEMM计算包括至少一个历史的GEMM计算，所述目标参数为与所述待优化的GEMM计算的参数满足预设关系的参数；

依据所述目标参数与优化方法的预设对应关系，确定所述目标参数对应的优化方法；

使用所述目标参数对应的优化方法，优化所述待优化的GEMM计算。

2.根据权利要求1所述的方法，其特征在于，所述从参考的GEMM计算的参数中查询目标参数包括：

从预设的优化方法知识库中查询所述目标参数，所述优化方法知识库中包括样本参数与样本优化方法的对应关系，所述样本参数为所述参考的GEMM计算的参数，所述目标参数为与所述待优化的GEMM计算的参数满足所述预设关系的样本参数，所述样本优化方法为所述参考的GEMM计算使用的优化方法，从同一个参考的GEMM计算提取的样本参数与样本优化方法相对应；

所述依据所述目标参数与优化方法的预设对应关系，确定所述目标参数对应的优化方法包括：

从所述优化方法知识库中，确定与所述目标参数对应的样本优化方法。

3.根据权利要求2所述的方法，其特征在于，在所述从参考的GEMM计算的参数中，查询目标参数之前，还包括：

依据所述参考的GEMM计算，提取所述样本参数以及所述样本优化方法；

建立从同一个参考的GEMM计算中提取的样本参数与样本优化方法之间的对应关系，建立的对应关系构成所述优化方法知识库。

4.根据权利要求1-3任一项所述的方法，其特征在于，所述GEMM计算的参数为所述矩阵参数；

或者，所述GEMM计算的参数为索引值，所述索引值为目标数据在预设的数据序列中的位置序号，所述目标数据为所述数据序列中，与所述矩阵参数的差值最小的数据。

5.根据权利要求1所述的方法，其特征在于，所述使用所述目标参数对应的优化方法，优化所述待优化的GEMM计算包括：

从预设的代码库中，查询目标子代码，所述目标子代码在所述代码库中与目标子算法对应，所述目标子算法通过划分与所述目标参数对应的优化方法得到，所述目标子代码用于实现所述目标子算法；

将参与所述待优化的GEMM计算的矩阵以及所述目标子代码代入所述GEMM计算的预设代码框架中，以生成目标代码；

运行所述目标代码。

6.根据权利要求5所述的方法，其特征在于，在所述使用所述目标参数对应的优化方法，优化所述待优化的GEMM计算之前，还包括：

将所述参考的GEMM计算使用的优化方法划分为预设类型的子算法；

依据专家经验，生成子代码，所述子代码用于实现所述子算法；

建立所述子代码与所述子算法之间的对应关系，所述对应关系构成所述代码库，其中，用于实现任意一个子算法的子代码与该子算法相对应。

7.根据权利要求1所述的方法，其特征在于，所述矩阵参数还包括：

所述GEMM计算运行的硬件平台的类型。

8.根据权利要求1所述的方法，其特征在于，所述预设关系包括：

相同；

或者，包括数据值相同的预先指定的参数。