[发明专利]一种神经网络的训练方法、图像处理方法以及相关设备

说明书

本申请实施例公开一种神经网络的训练方法、图像处理方法以及相关设备，该方法可用于人工智能领域的图像处理领域中，方法包括：获取第一训练数据集和第二训练数据集，第一训练数据集中的第一训练图像为将源域的带标签的训练图像与目标域的带标签的训练图像在像素层级进行混合后得到，第二训练数据集包括来自于目标域的无标签的训练图像；根据第一训练数据集对第一神经网络进行训练，以得到第一教师网络；根据第一教师网络和第二训练数据集，采用知识蒸馏的方式，对第一学生网络进行训练。增加了教师网络在训练过程的难度，从而提高了训练后的教师网络对目标域的图像的处理能力，有利于提高训练后的学生网络在处理目标域的图像时的性能。

技术领域

本申请涉及人工智能领域，尤其涉及一种神经网络的训练方法、图像处理方法以及相关设备。

背景技术

人工智能(Artificial Intelligence，AI)是利用数字计算机或者数字计算机控制的机器模拟、延伸和扩展人的智能，感知环境、获取知识并使用知识获得最佳结果的理论、方法、技术及应用系统。换句话说，人工智能是计算机科学的一个分支，它企图了解智能的实质，并生产出一种新的能以人类智能相似的方式作出反应的智能机器。人工智能也就是研究各种智能机器的设计原理与实现方法，使机器具有感知、推理与决策的功能。利用人工智能进行图像处理是人工智能常见的一个应用方式。

目前，广泛存在的数据域鸿沟问题，导致图像特征提取的泛化能力非常低，训练好的神经网络只能在与来自于源域的训练数据相同场景的应用数据上部署，若将训练好的神经网络应用于处理来自于目标域的图像，得到的预测结果性能比较差。

因此，一种提升神经网络在处理目标域的图像时的性能的方案亟待推出。

发明内容

本申请实施例提供了一种神经网络的训练方法、图像处理方法以及相关设备，用于提高了训练后的教师网络对目标域的图像的处理能力，也即提高了训练后的教师网络的泛化能力，从而教师网络可以为来自于目标域的无标签的训练图像生成性能更好的预测结果，也即学生网络的训练数据的质量更高，有利于提高训练后的学生网络在处理目标域的图像时的性能。

为解决上述技术问题，本申请实施例提供以下技术方案：

第一方面，本申请实施例提供一种神经网络的训练方法，可用于人工智能领域的图像处理领域中，训练设备获取第一训练数据集和第二训练数据集，其中，第一训练数据集包括至少一个带标签的第一训练图像，第一训练图像为将来自于源域的带标签的训练图像与来自于目标域的带标签的训练图像在像素层级进行混合后得到，第一训练图像的标签为根据第一标签和第二标签得到，第一标签与来自于源域的带标签的训练图像对应，第二标签与来自于目标域的带标签的训练图像对应，第二训练数据集包括来自于目标域的无标签的训练图像。训练设备采用第一损失函数，根据第一训练数据集中的第一训练图像对第一神经网络进行训练，直至满足预设条件，以得到第一教师网络，第一损失函数指示与第一训练图像对应的预测结果和第一训练图像的标签(也可以称为第一训练图像的期望结果)之间的相似度，与第一训练图像对应的预测结果为第一神经网络输出的，第一教师网络为执行过训练操作的第一神经网络。训练设备根据第一教师网络和第二训练数据集，采用知识蒸馏的方式，对第一学生网络进行训练直至满足预设条件，以得到第二学生网络，第二学生网络为执行过训练操作的第一学生网络。知识蒸馏指的是在对学生网络进行训练的过程中的训练目标为拉近学生网络输出的预测结果与教师网络输出的预测结果之间的相似度，以使学生网络学习到教师网络的图像处理能力。