[发明专利]具有求解半定规划的层的神经网络

说明书

公开了一种用于将神经网络应用于输入实例的系统（100）。神经网络包括优化层，所述优化层用于通过由一个或多个参数进行参数化的联合优化，从一个或多个输入神经元的值中确定一个或多个输出神经元的值。获得输入实例。获得到优化层的一个或多个输入神经元的值，并从其中确定一个或多个输入神经元的输入向量。通过关于输入向量联合优化至少输出向量以求解由一个或多个参数定义的半定规划，来从所确定的输入向量计算一个或多个输出神经元的输出向量。从相应计算的输出向量确定一个或多个输出神经元的值。

技术领域

本发明涉及用于将神经网络应用于输入实例（例如，输入图像）的系统，以及对应的计算机实现的方法。本发明进一步涉及用于训练神经网络的系统，以及对应的计算机实现的方法。本发明进一步涉及计算机可读介质，其包括用以执行所述方法的指令或表示神经网络参数的数据。

背景技术

自主设备必须基于观察到的环境做出决策。例如，用于车辆的自主驾驶系统可以使用来自相机和/或各种其它传感器的数据来分析交通状况，并使用该信息以用于控制车辆。类似地，用于非自主汽车的安全系统可以分析交通状况以辅助驾驶员，例如，如果发生危险状况的话则进行制动。在该示例中以及在其它设置中，做出决策不仅包括识别对象，而且还包括例如做出关于哪些识别的对象或对象的组合是危险的推断。例如，做出自动化推断也发生在其它控制系统中、医学图像分析中等。

在这些和其它种类的系统中，神经网络、并且特别是深度神经网络可以用来关于环境做出这样的推断。神经网络典型地包括一个或多个层，在每个层中，基于一个或多个输入神经元的值来计算一个或多个输出神经元的值。例如，神经网络可以具有至少10个、100个或1000个神经元，至少2个、5个或10个层等。例如，各层可以在如下方面不同：哪些输入神经元连接到哪些输出神经元，和/或使用哪些函数来计算输出神经元的值。典型地，层的一个或多个参数是可学习的，例如，这样的参数可以包括确定输出神经元的值受其所连接的相应输入神经元的值影响的程度的权重。各种类型的层本身是已知的。例如，卷积神经网络典型地包括输入层、输出层以及位于输入层和输出层之间的一个或多个层——典型地称为隐藏层。这样的隐藏层可以包括卷积层、ReLU层、池化层、完全连接层、标准化层等。例如，这样的层的组合可以用于执行各个种类的图像分类任务。

在Brandon Amos和 J. Zico Kolter的文章“OptNet: DifferentiableOptimization as a Layer in Neural Networks（OptNet：作为神经网络中的层的可微优化）”（通过引用并入本文，并可在https://arxiv.org/abs/1703.00443处获得）中，提出了一种深度神经网络，其被设计成捕获在神经网络的各隐藏状态之间的约束和依赖性。为此，二次规划被集成为网络中的一层。该层被插入到神经网络中，以捕获在神经网络的各隐藏状态之间的约束和复杂依赖性。该层的输出和定义二次规划的问题数据这两者可以取决于先前的层的值。该层的输出值通过使用原始-对偶内点法求解二次规划来获得。

发明内容

根据本发明的第一方面，提出了一种如由权利要求1限定的用于将神经网络应用于输入实例的系统。根据本发明的进一步的方面，提出了一种如由权利要求10限定的用于训练神经网络的系统。根据进一步的方面，提出了如分别由权利要求12和权利要求13限定的应用和训练神经网络的计算机实现的方法。根据本发明的进一步的方面，提出了一种由权利要求14限定的计算机可读介质和一种如由权利要求15限定的计算机可读介质。