[发明专利]一种数据传输方法、装置、电子设备和介质

权利要求书

1.一种数据传输方法，其特征在于，包括：

将待处理数据的梯度矩阵划分为多个固定长度的数据集；

按照设定的筛选粒度，从每个所述数据集中筛选出预设个数的梯度数值；将筛选出的所述梯度数值组合为目标数据集；

基于所述梯度数值在所述梯度矩阵中的位置，确定出每个所述目标数据集对应的梯度掩码；

将所述目标数据集及其对应的梯度掩码传输至对端设备。

2.根据权利要求1所述的数据传输方法，其特征在于，所述按照设定的筛选粒度，从每个所述数据集中筛选出预设个数的梯度数值包括：

所述数据集的各线程按照设定的掩码计算方式，确定出其所在数据集中剩余数据的源线程编号；

基于所述源线程编号，获取到对应的梯度数值；

依据每个所述数据集包含的所有所述梯度数值，选取出取值最大的预设个数的梯度数值。

3.根据权利要求2所述的数据传输方法，其特征在于，所述设定的筛选粒度包括从相邻的四个梯度数值中筛选两个梯度数值；

相应的，所述依据每个所述数据集包含的所有所述梯度数值，选取出取值最大的预设个数的梯度数值包括：

将每相邻的四个梯度数值作为一个数据集，从所述四个梯度数值中筛选出取值最大的两个梯度数值。

4.根据权利要求1所述的数据传输方法，其特征在于，所述基于所述梯度数值在所述梯度矩阵中的位置，确定出每个所述目标数据集对应的梯度掩码包括：

按照二进制形式，将筛选出的所述梯度数值在所述梯度矩阵中的位置置一，将所述梯度矩阵中的剩余位置置零。

5.根据权利要求1所述的数据传输方法，其特征在于，所述将所述目标数据集及其对应的梯度掩码传输至对端设备包括：

按照设定的数据长度，将多个所述梯度掩码合并为一个梯度掩码组；

调用线程将所述梯度掩码组写入全局内存，以便于所述对端设备从所述全局内存读取所述梯度掩码。

6.根据权利要求1所述的数据传输方法，其特征在于，还包括：

在获取到待还原数据集及其对应的目标梯度掩码的情况下，依据所述目标梯度掩码，将所述待还原数据集中包含的目标梯度数值填写至对应的位置，将没有对应数据的位置置零，以得到还原后的梯度矩阵。

7.根据权利要求1至6任意一项所述的数据传输方法，其特征在于，还包括：

依据模型训练的不同阶段，动态调整所述设定的筛选粒度。

8.一种数据传输装置，其特征在于，包括划分单元、筛选单元、组合单元、确定单元和传输单元；

所述划分单元，用于将待处理数据的梯度矩阵划分为多个固定长度的数据集；

所述筛选单元，用于按照设定的筛选粒度，从每个所述数据集中筛选出预设个数的梯度数值；

所述组合单元，用于将筛选出的所述梯度数值组合为目标数据集；

所述确定单元，用于基于所述梯度数值在所述梯度矩阵中的位置，确定出每个所述目标数据集对应的梯度掩码；

所述传输单元，用于将所述目标数据集及其对应的梯度掩码传输至对端设备。

9.一种数据传输设备，其特征在于，包括：

存储器，用于存储计算机程序；

处理器，用于执行所述计算机程序以实现如权利要求1至7任意一项所述数据传输方法的步骤。

10.一种计算机可读存储介质，其特征在于，所述计算机可读存储介质上存储有计算机程序，所述计算机程序被处理器执行时实现如权利要求1至7任意一项所述数据传输方法的步骤。