[发明专利]针对人工神经网络的相关性分数指派

说明书

通过穿过人工神经网络反向传播初始相关性分数，将从网络输出导出的初始相关性分数重新分布到项目集合上，来获得对应用人工神经网络的项目集合的相关性分数指派的任务，从而获得每个项目的相关性分数。具体地，这种反向传播适用于更广泛的人工神经网络集合，和/或实现更低的计算工作，这通过用以下方式同样地执行反向传播来实现：使得对于每个神经元，根据分布函数将相应神经元的下游邻居神经元集合的初步重新分布的相关性分数分布在相应神经元的上游邻居神经元集合上。

技术领域

本申请涉及人工神经网络的相关性分数指派。可以使用这种相关性分数指派，例如用于感兴趣区域(ROI)识别。

背景技术

计算机程序能够成功地解决许多复杂的任务，例如图像和文本的自动分类或评估人的信誉。机器学习算法尤其成功，因为它们从数据中学习，即程序获得大的经过标记(或经过弱标记)的训练集，并且在某个训练阶段之后，它能够推广到新的未见过的示例。许多银行有对申请贷款的人的信誉进行分类(例如，基于年龄、地址、收入等)的系统。这种系统的主要缺点是可解释性，即系统通常不提供关于为什么以及如何作出决定的信息(例如为什么有人被归类为没有信誉)。确定分类决定的知识和关系是“隐含的”。

理解和解释分类决定在许多应用中具有高价值，因为它使得能够验证系统的推理并向人类专家(例如，银行家、风险投资者或医生)提供额外的信息。在大多数情况下，机器学习方法的缺点是充当一个黑箱，而不提供关于什么使它们得出某一特定决定的任何信息。一般来说，复杂算法的性能比简单(线性)方法好得多(当有足够的训练数据可用时)，但是它们尤其缺乏可解释性。最近，一种类型的分类器，即神经网络，变得非常受欢迎，并产生了出色的结果。这类方法由一系列非线性映射组成，特别难以解释。

在典型的图像分类任务中，例如，可以给出图像(例如，鲨鱼的图像)。参见图15。机器学习(ML)算法900将图像902归类为属于某个类904(例如“鲨鱼的图像”)。请注意，事先定义了类集合906(例如鲨鱼、人、夜生活、户外)。算法900是个黑箱，因为它不会告诉用户为什么它作出关于图像属于“鲨鱼的图像”类的决定。关于像素级别的这种分类决定的解释将是有趣的，例如，看到图像被归类为属于“鲨鱼图像”类，主要是因为鲨鱼鳍。这样的“相关性图”在908中示出。

图像的分类已经成为许多计算机视觉应用(例如图像搜索[15]、机器人[10]、医学成像[50]、雷达图像中的对象检测[17]或面部检测[49])中的关键因素。神经网络[6]被广泛应用于这些任务，并且是关于诸如ImageNet[11]等的图像分类和排名的竞争中采用最多的方案。然而，像机器学习中的许多方法一样，这些模型往往缺乏对分类器预测的直接可解释性。换句话说，分类器充当黑箱，不提供关于为什么得出某种分类决定的详细信息。也就是说，图15中不具有解释可能性。

可解释性的缺乏是由于处理原始图像像素到其特征表示以及从特征表示到最终分类器功能的各种映射的非线性。这在分类应用中是相当大的缺陷，因为它阻碍了人类专家仔细验证分类决定。一些简单的是或否答案在应用中有时价值有限，这些应用中，类似某事在哪里发生或它是如何结构化的等问题与仅仅存在或不存在某种结构的二进制或实值一维评估相比更为相关。

一些工作已经致力于这一解释神经网络的课题。[54]致力于分析神经元上的分类器决定，这也适用于像素级别。它从卷积网络架构的输出层向输入像素执行层倒转[23]。这项工作是特定于带修正线性激活函数的具有神经元层的卷积神经网络的架构。参见[42]，其将[54]中的工作的解释确立为对关于输入图像中的像素的偏导数的近似。在高层意义上，[54]中的工作使用解决优化问题的[55]中其自身的前导工作中的方法，以便重建图像输入，如何将响应向下投射到输入，[54]使用修正线性单元将信息从展开的地图投影到输入，目的是确保特征图非负。