[发明专利]数据读取方法、装置、介质和计算设备

权利要求书

1.一种用于端侧人工智能设备的语音识别、文字识别或机器翻译的推理的数据读取方法，包括：

根据待相乘的M×K矩阵和K×N矩阵的矩阵信息，确定所述M×K矩阵和所述K×N矩阵是否为扁平矩阵，其中M、K和N为正整数；

当所述M×K矩阵和所述K×N矩阵中的一个矩阵为扁平矩阵时，从存储器中读取所述扁平矩阵的元素参与矩阵乘法运算，并且根据所述M×K矩阵和所述K×N矩阵中的另一个非扁平矩阵的顺序存储方式来从存储器中直接读取连续存储的所述另一个非扁平矩阵的元素参与所述矩阵乘法运算，无需对非扁平矩阵进行重新排序。

2.根据权利要求1所述的方法，其中，所述根据矩阵信息，确定所述M×K矩阵和所述K×N矩阵是否为扁平矩阵包括：

根据M与K的比值以及N与K的比值，确定所述M×K矩阵和所述K×N矩阵是否为扁平矩阵。

3.根据权利要求2所述的方法，其中，所述根据M与K的比值以及N与K的比值，确定所述M×K矩阵和所述K×N矩阵是否为扁平矩阵包括：

当M与K的比值小于或等于第一预设阈值时，所述M×K矩阵为扁平矩阵；

当N与K的比值小于或等于所述第一预设阈值时，所述K×N矩阵为扁平矩阵。

4.根据权利要求1所述的方法，其中，所述根据矩阵信息，确定所述M×K矩阵和所述K×N矩阵是否为扁平矩阵包括：

根据所述M×K矩阵和所述K×N矩阵的存储方式、根据M与K的比值以及N与K的比值，确定所述M×K矩阵和所述K×N矩阵是否为扁平矩阵。

5.根据权利要求4所述的方法，其中，所述根据所述M×K矩阵和所述K×N矩阵的存储方式、根据M与K的比值以及N与K的比值，确定所述M×K矩阵和所述K×N矩阵是否为扁平矩阵包括：

当所述M×K矩阵的存储方式是列主序时，并且当N与K的比值小于或等于第一预设阈值时，所述K×N矩阵为扁平矩阵；

当所述M×K矩阵的存储方式是行主序时，并且当N与K的比值小于或等于第二预设阈值时，所述K×N矩阵为扁平矩阵；

当所述K×N矩阵的存储方式是行主序时，并且当M与K的比值小于或等于所述第一预设阈值时，所述M×K矩阵为扁平矩阵；

当所述K×N矩阵的存储方式是列主序时，并且当M与K的比值小于或等于所述第二预设阈值时，所述M×K矩阵为扁平矩阵。

6.根据权利要求5所述的方法，其中，所述第一预设阈值小于所述第二预设阈值。

7.根据权利要求1所述的方法，其中，所述从存储器中读取所述扁平矩阵的元素参与矩阵乘法运算包括：

当所述扁平矩阵的元素存储方式与在矩阵乘法运算时的元素使用顺序一致时，直接读取连续存储的所述扁平矩阵中的元素参与所述矩阵乘法运算。

8.根据权利要求1所述的方法，其中，所述从存储器中读取所述扁平矩阵的元素参与矩阵乘法运算包括：

当所述扁平矩阵的元素存储方式与在矩阵乘法运算时的元素使用顺序不一致时，按照如下方式从存储器中读取所述扁平矩阵的元素：

从所述存储器中跳跃式读取所述扁平矩阵中的参与所述矩阵乘法运算的元素；

将读取的元素按照所述矩阵乘法运算时的元素使用顺序重新排列并连续存储在预设存储空间中；

在进行所述矩阵乘法运算时，按照重新排列的存储顺序从所述预设存储空间中连续读取所述扁平矩阵的元素。