[发明专利]用于评估显著性图确定器的设备和方法

说明书

提供了用于评估显著性图确定器的设备和方法。根据各种实施例，描述了评估显著性图确定器的方法，所述方法包括：向多个训练数据集单元添加预定义模式以训练数据类的识别，其中每个训练数据集单元包括待识别的数据类的表示；利用包括预定义模式的所述多个训练数据集单元训练神经网络；显著性图确定器确定用于数据类的显著性图；以及基于所确定的显著性图是否包括通过添加预定义模式引入的数据类的上下文来评估显著性图确定器。

技术领域

本公开涉及用于评估显著性图确定器的设备和方法。

背景技术

神经网络正变得越来越广泛地用于将图像分类成预定义数量的类。理解神经网络是如何达到其结果的，可以极大地帮助确定分类有多么可信，但是众所周知的困难。

在2013年学习表征国际会议（International Conference on LearningRepresentations，ICLR）中由Karen Simonyan、Andrea Vedaldi和Andrew Zisserman的出版物“Deep inside convolutional networks： Visualising image classificationmodels and saliency maps”描述了通过生成低级视觉解释来解读网络决策过程。这样和类似的方案主要地聚焦于图像分类的任务，并且可以被划分成两个类别：基于梯度的方法和基于扰动的方法。

基于梯度的方法计算可视化每个图像像素对特定类预测的敏感度的显著性图，该显著性图通过相对于图像反向传播该预测的梯度并且估计沿着梯度移动如何影响类输出而被获得。基于梯度的方法主要依赖于用于反向传播的启发法，并且可以提供不忠实于模型或数据的解释。基于扰动的方法相对于受扰动的图像来评估类预测改变，例如，针对受扰动的图像，图像的特定区域利用均值图像值来被替换或通过应用模糊或高斯噪声来被移除。

由于不是所有用于显著性确定的方案都表现得同等好，例如基于梯度的方法典型地容易受噪声影响，因此允许评估显著性确定方法的方案是合期望的。

发明内容

具有独立权利要求1（第一示例）和20（第二十示例）的特征的方法和设备允许显著性确定方案的评估，即显著性确定是否确实能够标识显著性（例如用于分类任务的神经网络所考虑在内的上下文）的核实。

在下文中描述了另外的示例。

一种由一个或多个处理器执行的评估显著性图确定器的方法，所述方法可以包括：向多个训练数据集单元添加预定义模式以训练数据类的识别，其中每个训练数据集单元包括待识别的数据类的表示；利用包括预定义模式的多个训练数据集单元训练神经网络，显著性图确定器确定用于数据类的显著性图，以及基于所确定的显著性图是否包括通过添加预定义模式引入的数据类的上下文来评估显著性图确定器。该段落中提及的方法提供了第一示例。

向所述多个训练数据集单元添加预定义模式可以包括向与数据类相互关联的训练数据添加预定义模式。该段落中提及的特征与第一示例相组合提供了第二示例。

所述方法可以包括基于如下二者的比较来评估显著性图确定器：在不添加与数据类相互关联的预定义模式的情况下在训练数据上被训练的神经网络的数据类的上下文、与在添加与数据类相互关联的预定义模式的情况下在训练数据上被训练的神经网络的数据类的上下文。该段落中提及的特征与第一示例至第二示例中的任何一个相组合提供了第三示例。

所述方法可以包括基于如下二者的重叠来评估显著性图确定器：表示数据类实例的传感器数据集单元的区域、与用于传感器数据集单元的所述数据类实例的显著性图的区域。该段落中提及的特征与第一示例至第三示例中的任何一个相组合提供了第四示例。

所述方法可以包括基于由请求区域外部的显著性图指定的上下文来评估显著性图确定器。该段落中提及的特征与第一示例至第四示例中的任何一个相组合提供了第五示例。