[发明专利]基于多教师知识蒸馏和归一化注意力的岩石类别预测方法

说明书

本发明公开了一种基于多教师知识蒸馏和归一化注意力的岩石类别预测方法，包括S1：采集岩石样品图像，建立岩石数据集，并对原始岩石样品图像数据进行预处理；S2:将在原有的网络结构基础上插入基于归一化的注意力模块，构建轻量级神经网络；S3：采用多教师知识蒸馏方法，即采用以Swin‑Transformer为代表的自注意力模块和以ResNet为代表的卷积模型，训练出轻量级学生模型；S4:将数据集分为训练集和测试集，记录分类结果和各项性能指标。本发明以MobileNetV3为学生模型，结合CNN和Self‑Attetion两种范式的优点，训练出一个性能更好的轻量级模型，通过批量归一化得到的缩放因子，通过缩放因子反映出各个通道的变化的大小，也表示了该通道的重要性，使得不需要额外的参数就能实现注意力机制。

技术领域

本发明属于图像类别预测的技术领域，具体涉及一种基于多教师知识蒸馏和归一化注意力的岩石类别预测方法。

背景技术

岩石按其成因可分成岩浆岩、沉积岩和变质岩三大类。在地下挖掘工作中，岩石的种类对于开采工作的进行有着不可忽视的影响。但是目前在岩石类别预测领域，还是主要以有经验的工人进行鉴别或者交由专业检测部门进行鉴别。但是在地下挖掘工作中，将岩石送到专业部门检测的效率是非常低下的，对工程的顺利进展也提出了极大的挑战。另外，人工进行鉴别存在如下问题，在实际的地下挖掘工作中，图片采集变得困难，采集的图片往往会存在噪声、平移等一系列问题，这给岩石类别预测带来很大的麻烦。

为次，出现了采用大型网络进行岩石类别预测的方法，该方法固然可以得到一个比较好的结果，但是由于大型网络实时性较差，而在实际地下挖掘工作中我们使用的设备往往不满足配置大型网络的要求，所以需要一个轻量级的网络，使其性能尽量满足我们的需求。

发明内容

本发明提供了一种基于多教师知识蒸馏和归一化注意力的岩石类别预测方法，通过多教师知识蒸馏和自注意力与卷积相结合的方法预测岩石类别，解决上述技术问题。

为了解决上述技术问题，本发明采用如下方案实现：

基于多教师知识蒸馏和归一化注意力的岩石类别预测方法，包括如下步骤：

S1：采集多个岩石样品图像，创造岩石数据集，并对原始岩石样品图像数据进行预处理；

S2:将在原有的网络结构基础上插入基于归一化的注意力模块，构建轻量级神经网络；

S3：采用多教师知识蒸馏方法，即采用以Swin-Transformer为代表的自注意力模块和以ResNet为代表的卷积模型，训练出轻量级学生模型；

S4:将待处理的岩石图像加载到模型中，记录分类结果和各项性能指标。

所述多教师知识蒸馏方法是结合目前具有较好效果的大型神经网络，本发明采用以ResNet为代表的CNN网络和以Swin-transformer为代表的自注意力网络。这两种网络的特性有所不同：CNN通过一个正方形或者矩形的感受野来采集一个区域的信息，这是CNN所具有的归纳偏置：①局部相关性：输入图像上相邻的区域会有相似的特征，靠的越近的物体相关性越强。②平移不变性：CNN对于同一张图及其平移后的版本，都能输出同样的结果。

Self-Attention模型则没有引入额外的归纳偏置，其采用基于输入特征上下文的加权平均操作，通过相关像素对之间的相似函数动态计算注意力权重。并且其能够获取到一个全局的信息。这也使得网络能够适应地关注不同的区域，并捕捉更多的特征。但同时也需要更多的训练数据才能使得自注意力模块能够取得预期的效果。

故可以结合两者的特性，从两种范式中训练出性能更好的神经网络模型。

进一步优化，所述步骤S1中，预处理包括如下步骤：

S11：对岩石样品图像进行分类，并分别放到对应的文件夹中；