[发明专利]一种基于深度学习多权重损失函数的数据均衡方法

说明书

本发明涉及一种基于深度学习多权重损失函数的数据均衡方法，应用深度学习模型的训练过程中，首先获取目标图像数据集，根据目标数据集确定数据样本的类别数目C和每类样本量Nsubgt;i/subgt;，确定超参数α、γ和每一类别样本重要性的加权系数Csubgt;i/subgt;，确定多权重损失函数MWLsubgt;focal/subgt;(z,y)，并利用神经网络模型不断迭代训练，同时在训练过程中使用多权重损失函数进行误差计算，并使用反向传播算法，不断更新模型的权重参数，直至网络收敛达到预期目标，最终完成训练。利用此损失函数不仅可以同时处理不同数据类别的样本数量不均衡问题和分类难度不均衡问题，还可以进一步提高关键类的检测准确率，可以应用于存在数据不均衡问题的数据集，从而有效缓解类不均衡问题的影响。

技术领域

本发明涉及人工智能、深度学习领域，具体涉及一种基于深度学习多权重损失函数的数据均衡方法。

背景技术

随着人工智能的快速发展，深度学习在许多方面都取得了非常显著的效果，如数据挖掘、自然语言处理、多媒体学习、推荐和个性化技术、医学图像处理领域等。深度学习通过大量的数据使机器模仿视听和思考等人类的活动，挖掘数据的特征，解决了很多复杂的难题。

获取大量的数据是一份非常耗时耗力的工作，且实际环境中的数据往往分布不均衡，从样本数量上来说，不同类别数据样本可能相差过大，例如在医学影像中，越是严重的疾病在同类相关疾病中占比越小，所采集的样本中也相对数量越少，但其误诊或漏诊所带来的代价却非常大。另一方面，从数据样本的区分难易程度上，不同类别数据的学习难度往往也不同，一些类别的特征相对简单固定，较容易训练，而一些类别样本的模式复杂多变，模型学习难度大。数据不均衡会影响神经网络的准确性，导致训练的神经网络模型更侧重于样本数目较多的、易于区分的样本类别，从而使数目较少、学习更为困难的样本类别识别准确率较低。

目前解决数据不均衡的问题可从数据层面和算法层面来入手。在数据层面，常借助数据重采样，即对数量较少的类别进行上采样，对数量较多的类别进行下采样；在算法层面上，常利用不同的损失函数来达成不同的训练目的，传统的模型训练时，常使用简单的交叉熵损失函数进行模型与实际数据之间的误差计算，针对数据不均衡问题，目前有如Focalloss损失函数、Class-Balanced Focal Loss损失函数等，即利用不同的权重来对应不同样本空间，从而在参数和误差更新时更有针对性的对训练起到关键性作用，达到缓解数据不均衡的目的。而重采样策略目前仍有很大的不足，其可能会产生大量的噪声、损失有价值的训练样本，同时当数据集数据不均衡现象严重时，仅靠重采样可能会导致模型过拟合现象的发生，且目前同时关注训练样本数量不均衡问题和样本学习难度不均衡问题的工作较少，仍然有待进一步挖掘。

发明内容

为了克服现有技术的不足，本发明提出一种基于深度学习多权重损失函数的数据均衡方法，利用此损失函数不仅可以同时处理不同数据类别的样本数量不均衡问题和分类难度不均衡问题，还可以进一步提高关键类的检测准确率，将其应用于存在数据不均衡问题的数据集，从而有效缓解类不均衡问题的影响。

本发明解决上述技术问题采用的技术方案是：

一种基于深度学习多权重损失函数的数据均衡方法，应用深度学习模型的训练过程中，包括以下内容：

步骤1：获取目标图像数据集，根据目标图像数据集确定样本的类别数目C和每类样本数量N_i，N_i为第i类别的样本数量；

步骤2：确定超参数α、γ和每类样本类别的加权系数C_i，分别用来调节不同权重的作用范围；

步骤3：确定多权重损失函数，此多权重损失函数用以下公式表示：