[发明专利]运算方法、装置及相关产品

权利要求书

1.一种运算方法，其特征在于，所述方法包括：

根据分段信息将矩阵乘算法的数据分段，得到所述数据的分段数据，所述数据包括所述矩阵乘算法的输入数据和输出数据；

根据所述数据的分段数据确定所述数据的第一中间表达；

根据所述数据的第一中间表达和所述矩阵乘算法算子的第一中间表达，生成所述矩阵乘算法的第一中间表达，

其中，所述分段信息根据片上缓存的大小确定，

所述数据为多维数据，根据分段信息将矩阵乘算法的数据分段，得到所述数据的分段数据，包括：

根据分段信息将所述数据各维度数据分别进行分段，得到所述数据各维度数据的维度分段数据；

根据所述数据的各维度数据的维度分段数据，得到所述数据的分段数据，

所述方法还包括：

根据所述数据的分段数据确定所述数据的第一中间表达；

确定数据的第一中间表达在片上缓存中对应的存储空间；

根据所述存储空间的地址生成所述数据的第二中间表达；

根据所述数据的第二中间表达和所述矩阵乘算法算子的第二中间表达，生成所述矩阵乘算法的第二中间表达，

其中，所述数据的分段数据共用相同的第一中间表达。

2.根据权利要求1所述的方法，其特征在于，所述方法还包括：

根据所述矩阵乘算法的第一中间表达生成所述矩阵乘算法的第一可执行指令。

3.根据权利要求1所述的方法，其特征在于，所述矩阵乘算法的输入数据包括N行C列的第一矩阵数据，所述矩阵乘算法的输出数据包括N行M列的第二矩阵数据，根据分段信息将矩阵乘算法的数据分段，得到所述数据的分段数据，包括：

根据分段信息将第一矩阵数据和第二矩阵数据分别分为N段，得到第一矩阵数据的分段数据和第二矩阵数据的分段数据，其中，第一矩阵数据的分段数据每段长度为C，第二矩阵数据的分段数据每段长度为M。

4.一种运算装置，其特征在于，所述装置包括：

分段数据获取模块，用于根据分段信息将矩阵乘算法的数据分段，得到所述数据的分段数据，所述数据包括所述矩阵乘算法的输入数据和输出数据；

数据中间表达确定模块，用于根据所述数据的分段数据确定所述数据的第一中间表达；

算法中间表达确定模块，用于根据所述数据的第一中间表达和所述矩阵乘算法算子的第一中间表达，生成所述矩阵乘算法的第一中间表达，

其中，所述分段信息根据片上缓存的大小确定，

所述数据为多维数据，所述分段数据获取模块，包括：

维度分段数据获取子模块，用于根据分段信息将各维度数据分别进行分段，得到各维度数据的维度分段数据；

分段数据获取子模块，用于根据所述数据的各维度数据的维度分段数据，得到所述数据的分段数据，

所述算法中间表达确定模块，包括：

存储空间确定模块，用于确定数据的第一中间表达在片上缓存中对应的存储空间；

第二中间表达确定模块，用于根据所述存储空间生成所述数据的第二中间表达，

算法中间表达确定模块，用于根据所述数据的第二中间表达和所述矩阵乘算法算子的第二中间表达，生成所述矩阵乘算法的第二中间表达，

其中，所述数据的分段数据共用相同的第一中间表达。

5.根据权利要求4所述的装置，其特征在于，所述装置还包括：

第一可执行指令生成模块，用于根据所述矩阵乘算法的第一中间表达生成所述矩阵乘算法的第一可执行指令。

6.根据权利要求4所述的装置，其特征在于，所述矩阵乘算法的输入数据包括N行C列的第一矩阵数据，所述矩阵乘算法的输出数据包括N行M列的第二矩阵数据，根据分段信息将矩阵乘算法的数据分段，得到所述数据的分段数据，包括：

根据分段信息将第一矩阵数据和第二矩阵数据分别分为N段，得到第一矩阵数据的分段数据和第二矩阵数据的分段数据，其中，第一矩阵数据的分段数据每段长度为C，第二矩阵数据的分段数据每段长度为M。