[发明专利]一种数据迁移方法和装置

说明书

本发明公开了一种数据迁移方法和装置，涉及计算机技术领域。该方法的一具体实施方式包括：计算第一存储介质上存储的待迁移数据的分堆信息，所述分堆信息指示了第一服务器将采集的一个或多个待迁移数据的数据标识；将所述分堆信息存储至第一队列，以使用所述第一服务器根据从所述第一队列中获取的数据标识从所述第一存储介质中采集所述待迁移数据，并将所采集的数据存储至第二队列；使用一个或多个第二服务器从所述第二队列中获取数据并将所述数据存储至第二存储介质。该实施方式不仅实现了对待迁移数据的自动分堆，还实现了数据迁移过程中数据采集与数据存储的解耦，提高了数据迁移效率。

技术领域

本发明涉及计算机技术领域，尤其涉及一种数据迁移方法和装置。

背景技术

随着计算机技术的快速发展以及新旧技术的更迭，数据存储方式也随着技术的变更而不断的升级，因而常需要考虑将原始数据迁移至新的存储介质中或采用新的数据结构存储数据。目前，常用的数据迁移方案主要包括以下步骤：扫描原始数据；将原始数据转换为新的数据结构；将原始数据存储至新的存储介质。在数据迁移过程中，常仅采用一台服务器进行数据迁移，或先人工对原始数据进行分堆然后再基于分堆数据采用多台服务器进行数据迁移。

在实现本发明过程中，发明人发现现有技术中至少存在如下问题：仅采用一台服务器进行数据迁移时，数据迁移速度慢、耗时长；而采用多台服务器进行数据迁移时则依赖人工对迁移数据进行分堆，容易造成分堆不均匀，导致服务器资源浪费；此外，无论采用一台还是多台服务器进行数据迁移，均无法在数据迁移过程中动态调整数据迁移速率。

发明内容

有鉴于此，本发明实施例提供了一种数据迁移方法和装置，不仅能够自动基于服务器数量和数据规模对待迁移数据进行分堆，还可以在数据迁移过程中动态调整数据迁移速率。

为实现上述目的，根据本发明实施例的一个方面，提供了一种数据迁移方法，包括：

计算第一存储介质上存储的待迁移数据的分堆信息，所述分堆信息指示了第一服务器将采集的一个或多个待迁移数据的数据标识；

将所述分堆信息存储至第一队列，以使用所述第一服务器根据从所述第一队列中获取的数据标识从所述第一存储介质中采集所述待迁移数据，并将所采集的数据存储至第二队列；

使用一个或多个第二服务器从所述第二队列中获取数据并将所述数据存储至第二存储介质。

可选地，根据所述待迁移数据的数量以及所述第一服务器的数量，计算所述待迁移数据对应的分堆信息。

可选地，所述根据所述待迁移数据的数量以及所述第一服务器的数量，计算所述待迁移数据对应的分堆信息，包括：

计算所述待迁移数据的数量与所述第一服务器的数量的商以获取分堆大小，所述分堆大小指示了所述第一服务器将采集的待迁移数据的数量；

根据所述分堆大小，确定所述第一服务器将采集的待迁移数据对应的最大数据标识、最小数据标识。

可选地，还包括：

判断所述待迁移数据的数量是否大于所述分堆大小与所述第一服务器的数量之积；

在所述待迁移数据的数量大于所述分堆大小与所述第一服务器的数量之积的情况下，增加所述第一服务器的数量。

可选地，所述使用所述第一服务器根据从所述第一队列中获取的数据标识从所述第一存储介质中采集所述待迁移数据，并将所采集的数据存储至第二队列，包括：

使用所述第一服务器从所述第一队列中获取所述分堆大小及所述第一服务器将采集的待迁移数据对应的最大数据标识、最小数据标识；

遍历所述待迁移数据，以根据所述分堆大小及所述最大数据标识、最小数据标识，从所述第一存储介质中采集所述待迁移数据；