[发明专利]一种回归任务的深度学习方法和装置

说明书

本发明公开了一种回归任务的深度学习方法和装置，方法包括：使用固定间隔划分回归任务的预测目标以获得分类数值和回归数值；以分类数值为期望生成概率分布；基于回归数值和固定间隔确定偏置比例；以概率分布作为分类标签、偏置比例作为回归标签，使用深度学习来训练回归任务，获得分类输出和回归输出；确定分类输出和回归输出各自的损失函数，并基于损失函数和预先确定的损失权重确定总损失函数以评价深度学习的精度。本发明能够提升回归任务深度学习方法的鲁棒性并兼容具有可容忍误差的场景。

技术领域

本发明涉及深度学习领域，更具体地，特别是指一种回归任务的深度学习方法和装置。

背景技术

随着数据、算力、算法三种要素在人工智能领域的飞速发展，深度学习技术在多种应用领域得到应用。深度学习技术在具体应用过程中，根据不同数据类型衍生多种深度学习任务类型。例如，根据数据标签有无标注可以分为有监督学习任务与无监督学习任务；根据数据标签类型是否为分类值或连续值可以将任务划分为分类任务与回归任务。其中回归任务属于有监督学习任务中的一种任务类型，主要是指其标签为连续变量，通过对连续变量预测与拟合，可完成具体的回归任务目标。

回归任务的标签预处理方式主要是归一化，即将标签通过最大最小归一化方式将标签取值范围变换到[0,1]范围内。回归任务的评价指标关注预测值与真实值的差别，常用的评价方式包括均方误差和绝对值误差。均方误差主要是指将每个样本真实值与预测值进行差值并计算差值的平方，然后针对所有样本计算结果求其平均结果，该损失函数常被应用于线性回归等场景；绝对值误差主要是指将每个样本真实值与预测值进行差值并计算差值的绝对值，然后针对所有样本计算结果求其平均结果。

现有回归任务中的深度学习模型建模存在以下缺点：第一对存在离群标签的样本，现有算法对于离群标签处理能力较差，鲁棒性较低；第二主要关注预测值与真实值的差别，差值越小则表明算法精度越高。在某些回归任务场景中，预测值与真实值的差别可以存在一定的可容忍误差，目前现有算法对于该场景适用性较差。

针对现有技术中回归任务深度学习方法的鲁棒性小、可容忍误差兼容性低的问题，目前尚无有效的解决方案。

发明内容

有鉴于此，本发明实施例的目的在于提出一种回归任务的深度学习方法和装置，能够提升回归任务深度学习方法的鲁棒性并兼容具有可容忍误差的场景。

基于上述目的，本发明实施例的第一方面提供了一种回归任务的深度学习方法，包括执行以下步骤：

使用固定间隔划分回归任务的预测目标以获得分类数值和回归数值；

以分类数值为期望生成概率分布；

基于回归数值和固定间隔确定偏置比例；

以概率分布作为分类标签、偏置比例作为回归标签，使用深度学习来训练回归任务，获得分类输出和回归输出；

确定分类输出和回归输出各自的损失函数，并基于损失函数和预先确定的损失权重确定总损失函数以评价深度学习的精度。

在一些实施方式中，使用固定间隔划分回归任务的预测目标以获得分类数值和回归数值包括：使用固定间隔除预测目标，将所得的商作为分类数值，将所得的余数作为回归数值。

在一些实施方式中，以分类数值为期望生成概率分布包括：以分类数值为期望构建高斯分布，并使用高斯分布将分类数值表达为概率分布；基于回归数值和固定间隔确定偏置比例包括：以回归数值和固定间隔之比作为偏置比例。

在一些实施方式中，确定分类输出和回归输出各自的损失函数包括：使用softmax函数处理分类输出以通过交叉熵确定分类输出损失函数；和使用sigmoid激活函数处理回归输出以通过均方误差损失函数确定回归输出损失函数。