[发明专利]一种基于DARTS的图像分类优化方法

说明书

本发明公开了一种基于DARTS的图像分类优化方法，用于提高DARTS构建的模型对图像分类的稳定性和准确率。本发明分析跳跃连接操作在排他操作方面有不公平优势，进而导致DARTS性能崩溃，本发明提出了一种关联跳跃连接操作构造新的验证损失函数，以阻碍这种不公平的优势，避免跳跃连接过度，并且解析架构参数确定一个针对特定图像数据集的合适的子网络。接着进行整体模型训练测试，堆叠一定个数的搜索好的单元架构来构建卷积神经网络，从头开始训练，基于此模型对图像进行稳定而准确的分类测试。本方法在针对特定图像进行分类时可以有效地阻碍跳跃连接的不公平优势，并能产生更好的性能。

技术领域

本发明属于深度学习及机器视觉领域，涉及一种基于DARTS的图像分类优化技术。这在现实场景中具有非常广泛的应用，例如人脸识别、指纹识别等。

背景技术

图像分类是使用计算机视觉和机器学习算法从图像中抽取意义的任务。看似简单，但是这是计算机视觉领域的核心问题之一，为其他视觉领域中的问题(比如物体检测和分割)做技术基础。图像分类任务因为图像分类任务的多样性而变得困难，图像类别总数不一致，比如数据集cifar10类和ImageNet的1000类；图像特点多样性，比如背景单一且为灰度图的mnist数据集和复杂背景且为彩色图的cifar100数据集。因而不同的图像分类任务要选择一个合适的CNN网络变得非常困难。

近年来，针对图像分类任务，深度学习的繁荣，尤其是神经网络的发展，颠覆了传统方式对图像分类的时代，将卷积神经网络的浪潮推到了历史最高点。针对不同的图像数据集，各种神经网络模型层出不穷，而网络结构作为一种特殊的超参数，在深度学习整个环节中扮演着举足轻重的角色。然而，往往模型性能越高，对超参数的要求也越来越严格，稍有不同就无法复现论文的结果。在图像分类任务上大放异彩的Residual Networks(ResNet)、在机器翻译任务上称霸的Transformer等网络结构无一不来自专家的精心设计。这些精细的网络结构的背后是深刻的理论研究和大量广泛的实验，这无疑给人们带来了新的挑战。

但是大热的深度神经网络，虽然将以前很另人头疼的特征提取自动化了，但卷积神经网络结构的设计很大程度上还是需要手工设计，且依赖经验。一个自然的诉求就是针对特定的图像分类任务，最优神经网络架构选择的工作能否交给机器来做。近几年，主流的效果最好的神经网络架构搜索的两种方法是进化算法(EvolutionaryAlgorithm)和强化学习(Reinforcement learning)，但是这两种架构搜索相当于一个离散领域的黑盒优化问题，从而导致需要评价大量的结构，非常耗时。受到此启发，可以将搜索空间松弛到连续的领域，通过梯度下降进行性能优化，能够在丰富的搜索空间搜索到一种具有复杂图形拓扑结构的高性能框架,从而得到稳定而精确的图像分类结果。

发明内容

为了提高DARTS构建的模型对图像分类的稳定性和准确率，本发明提出一种基于DARTS的图像分类优化方法。

本发明在搜索单元训练时关联跳跃连接操作构造了一个新的验证损失函数，以阻碍跳跃连接的不公平优势，避免跳跃连接过度，并且解析架构参数，确定了最终的子网络更合适特定的图像数据集，实现图形分类的稳定性和准确率都有所提高。

具体技术方案如下：

该技术方案主要分为两个阶段：搜索单元训练阶段和整体模型训练测试阶段。

搜索单元训练阶段包括以下步骤：