[发明专利]数据的筛选方法、装置、设备及介质

说明书

本申请公开了一种数据的筛选方法、装置、设备及介质，涉及机器学习技术领域。该方法包括：获取初始数据和第一分类网络；基于第一分类网络对初始数据进行分类预测得到的预测结果，确定初始数据对应的交叉熵损失；对初始数据进行特征采样，确定初始数据对应的重构误差信息，重构误差信息用于指示初始数据与分类任务之间的关联度；基于交叉熵损失和重构误差信息，对初始数据进行筛选，得到降噪数据，降噪数据用于对第一分类网络进行迭代训练，以得到用于处理分类任务的第二分类网络。通过交叉熵损失和重构误差信息结合，以实现从不确定度维度和代表性维度联合对初始数据进行筛选，帮助网络在训练过程中抵挡噪声数据的干扰。

技术领域

本申请涉及机器学习技术领域，特别涉及一种数据的筛选方法、装置、设备及介质。

背景技术

在深度学习网络的训练过程中，训练数据的选取尤为重要，训练数据的好坏直接影响到网络的训练效果。一般的，由标注人员根据待训练网络的训练任务，对数据集中的数据进行标注，以得到训练数据。然而，通过人工进行标注可能存在因为标注人员粗心或者能力不足导致错误标注的情况，例如，体现在分类任务上即为数据被标记错误的类别标签。错误标注的数据，即噪声数据会极大的影响深度学习网络的训练。

在相关技术中，在对网络的训练过程中通过解耦(Decoupling)方式来降低训练数据中的噪声问题。即，在训练过程中同时对两个网络进行训练，其中，两个网络的不同点仅在于初始化参数不同，然后在训练过程中仅在两个网络存在分歧时才进行反向传播的更新，以提高网络的鲁棒性。

然而，以上述方式实现的网络训练过程中，假设最初输入至网络的批量数据中包括有偏的训练样本，则针对单个网络的错误将会在第二次训练过程中再次训练，而导致噪声数据对模型参数的错误训练，训练得到的网络精度较低。

发明内容

本申请实施例提供了一种数据的筛选方法、装置、设备及介质，能够降低训练数据中噪声数据对网络训练的负面影响。所述技术方案如下：

一方面，提供了一种数据的筛选方法，所述方法包括：

获取初始数据和第一分类网络，所述第一分类网络为用于处理分类任务的待训练网络；

基于所述第一分类网络对所述初始数据进行分类预测得到的预测结果，确定所述初始数据对应的交叉熵损失；

对所述初始数据进行特征采样，确定所述初始数据对应的重构误差信息，所述重构误差信息用于指示所述初始数据与所述分类任务之间的关联度；

基于所述交叉熵损失和所述重构误差信息，对所述初始数据进行筛选，得到降噪数据，所述降噪数据用于对所述第一分类网络进行迭代训练，以得到用于处理所述分类任务的第二分类网络。

另一方面，提供了一种数据的筛选装置，所述装置包括：

获取模块，用于获取初始数据和第一分类网络，所述第一分类网络为用于处理分类任务的待训练网络；

确定模块，用于基于所述第一分类网络对所述初始数据进行分类预测得到的预测结果，确定所述初始数据对应的交叉熵损失；

所述确定模块，还用于对所述初始数据进行特征采样，确定所述初始数据对应的重构误差信息，所述重构误差信息用于指示所述初始数据与所述分类任务之间的关联度；

筛选模块，用于基于所述交叉熵损失和所述重构误差信息，对所述初始数据进行筛选，得到降噪数据，所述降噪数据用于对所述第一分类网络进行迭代训练，以得到用于处理所述分类任务的第二分类网络。

另一方面，提供了一种计算机设备，所述设备包括处理器和存储器，所述存储器中存储有至少一条指令、至少一段程序、代码集或指令集，所述至少一条指令、所述至少一段程序、所述代码集或指令集由所述处理器加载并执行以实现本申请实施例中任一所述的数据的筛选方法。