[发明专利]基于自监督预训练的道路病害检测方法和系统

权利要求书

1.一种基于自监督预训练的道路病害检测方法，其特征在于，在进行公路表观病害图像识别过程中，依次含有以下步骤：

步骤(1)、构造自监督辅助任务：给定所有的样本集合为{X}，在一系列的数据变换操作集合中选取C_self种变换，记为{T}；将选取的数据变换操作应用于所有的样本，得到了变换操作后的样本集合{X'}，其中X'＝T_i(X),i＝{0,1,2,…,(C_self-1)}；同时将根据变换操作的类型设置样本集合{X'}对应的伪标签{Y'}，其中某一个样本对应的伪标签y′_j＝i,i＝{0，1，2，…，(C_self-1)}；

步骤(2)、预训练模型：利用步骤(1)中得到的数据集对给定的特征提取器和分类器进行训练，使用如下的目标函数来更新其中的参数：

其中，F(x_j；θ)表示特征提取器，x_j为数据变换后的样本，G_self(w)表示使用的分类器，loss()表示损失函数，y′_j为样本使用的数据变换方式，即伪标签；

步骤(3)、参数保存：保存步骤(2)中得到的预训练参数；

步骤(4)、训练有监督模型：直接加载步骤(3)中保存的参数，对于按照病害类别分类的原始数据集进行特征提取，根据真实病害标注对特征提取器参数进行训练，使用如下的目标函数来更新其中的参数：

其中，表示特征提取器，为给定带病害类别标记的样本，G_sup(w)表示使用的分类器，loss()表示损失函数，y_j为样本所属真实病害类别；

步骤(5)、预测病害：利用上述训练好的模型对病害样本进行分类，通过如下的公式预测病害类别：

2.根据权利要求1所述的基于自监督预训练的道路病害检测方法，其特征在于，步骤(1)中的数据变换包括旋转、翻转、裁剪、亮度和对比度变换操作。

3.根据权利要求1所述的基于自监督预训练的小样本道路病害检测方法，其特征在于，步骤(2)、步骤(4)中，使用的分类器包括全连接分类器，原型网络分类器和余弦相似度分类器。

4.根据权利要求1所述的基于自监督预训练的小样本道路病害检测方法，其特征在于，步骤(2)、步骤(4)中，使用的特征提取器是相同的。

5.根据权利要求1所述的基于自监督预训练的小样本道路病害检测方法，其特征在于，步骤(2)、步骤(4)中，损失函数使用交叉熵损失。

6.根据权利要求1所述的基于自监督预训练的小样本道路病害检测方法，其特征在于，步骤(2)、步骤(4)中，进行梯度反向传播，对特征提取器和分类器中可学习参数进行更新。

7.根据权利要求1所述的基于自监督预训练的小样本道路病害检测方法，其特征在于，步骤(4)中，在训练结束后如有新的标注样本，能继续进行训练，更新其中的参数。

8.实施如权利要求1所述的一种基于自监督预训练的道路病害检测方法的系统，其特征在于：包括依次连接的自监督辅助任务构造模块、模型预训练模块、参数保存模块、有监督模型训练模块、病害预测模块。