[发明专利]数据迁移的方法、装置、处理器和计算设备

说明书

本申请公开了一种数据迁移的方法。该方法由处理器中的数据迁移单元执行，包括：获取待迁移矩阵的存储位置，待迁移矩阵以第一存储方式存储，读取所述待迁移矩阵中元素，按照第二存储方式存储待迁移矩阵的元素，第二存储方式是与第一存储方式不同的存储方式。在执行矩阵乘法时，处理器中数据迁移单元可以连续读取矩阵的一行或者一列的元素，无需外部设备以及频繁访问内存，整体计算效率更高。

技术领域

本申请涉及计算机领域，特别涉及一种数据迁移的方法、装置、处理器和计算设备。

背景技术

在机器学习技术，存在大量的矩阵乘法计算。矩阵乘法是将第一个矩阵的行元素与第二个矩阵的列元素对应相乘。在内存中通常对于矩阵采用列存储或者行存储中的一种。行存储，即对矩阵中属于同一行的元素连续存储，列存储，即对矩阵中属于同一列的元素连续存储。处理器在执行矩阵乘法时，需要连续读取乘号左侧矩阵的行元素和乘号右侧的列元素。由于传统技术中利用内存存储矩阵，执行矩阵乘的过程中处理器需要频繁访问内存，并将矩阵乘的过程数据也存储至内存，处理器和内存的频繁交互导致矩阵乘的过程耗时长、效率低，因此，如何提供一种高效的数据迁移方法成为亟待解决的技术问题。

发明内容

本申请提供一种数据迁移的方法、装置、处理器和计算设备，以此提升数据迁移方法的效率。

第一方面，提供了一种数据迁移的方法，该方法由处理器中的数据迁移单元执行，该方法包括获取待迁移矩阵的存储位置，待迁移矩阵以第一存储方式存储，读取所述待迁移矩阵中元素，按照第二存储方式存储待迁移矩阵的元素，第二存储方式是与第一存储方式不同的存储方式。

在上述方案中，获取待迁移矩阵的存储位置可以为获取待迁移矩阵的源存储地址，即待迁移矩阵进行迁移前，第一个元素的存储地址。还可以获取目的存储地址为待迁移矩阵迁移后，第一个元素的存储地址。还可以获取尺寸信息可以包括待迁移矩阵的行数和列数这两个信息。待迁移矩阵为需要进行迁移以改变存储方式的矩阵。在内存中矩阵以行存储的方式进行存储的情况下，在需要相乘的两矩阵中，因为乘号右侧的矩阵需要对列元素进行连续读取，所以该矩阵为待迁移矩阵，需要对该矩阵进行迁移，使得其存储方式由行存储变为列存储。在内存中矩阵以列存储的方式进行存储的情况下，在需要相乘的两矩阵中，因为乘号左侧的矩阵需要对行元素进行连续读取，所以该矩阵为待迁移矩阵，需要对该矩阵进行迁移，使得其存储方式由列存储变为行存储。本申请可以通过数据迁移单元实现矩阵的迁移过程，无需借助处理器以外的设备和存储空间，数据读取和处理速度更快。

数据迁移单元可以向处理器的内部总线发送多个读请求，每个读请求用于读取待迁移矩阵中的一行或者一列的元素。然后，将获取到的元素按照第二存储方式进行存储。整个过程由处理器内部的数据迁移单元实现，可以将乘号左侧矩阵作为待迁移矩阵转换为列存储的存储方式，或者将乘号右侧矩阵作为待迁移矩阵转换为行存储的存储方式，使得在计算矩阵乘时，可以连续获取一行或者一列元素进行相乘并累加，无需频繁访问内存，有效提高了计算效率。

在一种可能的实现方式中，第一存储方式和第二存储方式分别包括列存储方式和行存储方式。

在本申请所示的方案中，即可以将以行存储的方式存储的待迁移矩阵进行迁移，以转换存储方式，还可以将以列存储的方式存储的待迁移矩阵进行迁移，以转换存储方式。

在一种可能的实现方式中，所述获取待迁移矩阵的源存储地址、目的存储地址和尺寸信息之前，所述方法还包括：获取数据迁移指令，其中，数据迁移指令中携带有第一寄存器标识、第二寄存器标识和第三寄存器标识，其中，第一寄存器标识用于指示存储待迁移矩阵的源存储地址的第一寄存器、第二寄存器标识用于指示存储待迁移矩阵的目的存储地址的第二寄存器和所述第三寄存器标识用于指示存储待迁移矩阵的尺寸信息的寄存器。

则获取待迁移矩阵的源存储地址、目的存储地址和尺寸信息，包括：向第一寄存器获取所述待迁移矩阵的源存储地址，向第二寄存器获取待迁移矩阵的目的存储地址，向所述第三寄存器获取所述待迁移矩阵的尺寸信息。