[发明专利]使用比较集对输入样本进行分类的方法、系统和存储介质

说明书

使用比较样本的比较集来分类新样本的方法、系统和装置。一种方法包括维持比较集，该比较集包括比较样本和每个比较样本的相应标签矢量，每个标签矢量包括预定标签集中的每个标签的相应分数；接收新样本；通过将神经网络注意力机制应用于新样本和比较样本来确定每个比较样本的相应注意力权重；以及根据比较样本的相应注意力权重和比较样本的相应标签矢量为每个比较样本生成预定标签集中的每个标签的相应标签分数，其中每个标签的相应标签分数表示标签是新样本的正确标签的可能性。

相关申请的交叉引用

本申请是2016年5月20日提交的美国临时专利申请No.62/339,782的非临时申请并要求其优先权，其全部内容通过引用并入于此。

技术领域

本说明书涉及使用神经网络对数据进行分类。

背景技术

神经网络是采用一个或多个非线性单元层来预测对于接收的输入的输出的机器学习模型。除了输出层之外，一些神经网络还包括一个或多个隐藏层。每个隐藏层的输出用作网络中下一层的输入，即下一隐藏层或输出层。网络的每个层根据相应参数集的当前值从接收的输入生成输出。

一些神经网络是递归神经网络。递归神经网络是接收输入序列并从输入序列生成输出序列的神经网络。特别地，递归神经网络能够使用来自先前时间步骤中的网络的一些或全部内部状态来计算当前时间步骤的输出。

发明内容

本说明书描述了在一个或多个位置中的一个或多个计算机上实施为计算机程序的系统。该系统是用于使用比较样本的比较集来对输入样本进行分类的系统。

本公开的一个示例方面涉及由一个或多个计算机执行的、用于使用比较样本的比较集来对新样本进行分类的方法，该方法包括：维持比较集，该比较集包括多个比较样本和多个比较样本中的每一个的相应标签矢量，每个标签矢量包括预定标签集中的每个标签的相应分数；接收新样本；通过将神经网络注意力机制应用于新样本和比较样本来确定每个比较样本的相应注意力权重；以及根据比较样本的相应注意力权重和比较样本的相应标签矢量为每个比较样本生成预定标签集中的每个标签的相应标签分数，其中每个标签的相应标签分数表示标签是新样本的正确标签的可能性。

在该方面的实施方式中，该方法还可以包括基于预定标签集中的标签的相应标签分数对新样本进行分类。例如，可以使用从标签分数导出的分类来对新样本进行分类。作为进一步的示例，可以使用/基于是正确的可能性最高的标签来对新样本进行分类，或者可以使用/基于是正确的可能性最高的n(n1)个标签来对新样本进行分类，或者可以使用/基于是正确的可能性超过阈值的所有标签来对新样本进行分类，等等。

本公开的另一示例方面涉及由一个或多个计算机执行的用于控制环境中的代理的方法。该方法包括基于第一方面的方法的输出(例如，基于生成的标签分数，或者基于从生成的标签分数中导出的分类)生成用于控制代理的一个或多个控制输入。

本说明书中描述的主题能够在特定实施例中实施，以便实现以下优点中的一个或多个。包括神经网络的数据分类系统能够有效地确定未观察到的分类的标签，而无需对神经网络进行任何改变或从头开始重新训练神经网络。特别地，神经网络能够将有标签的新样本集以及需要被分类的新输入样本作为其输入，并且即使有标签的新样本集与先前用于训练神经网络的有标签的样本集不同，神经网络也能够使用有标签的新样本集来有效地对新输入样本进行分类。因此，本主题的实施例可以提供可以被训练为处理输入数据(例如图像数据)以生成以更有效的方式指示与图像数据相关联的属性的输出数据的神经网络。

在附图和以下描述中阐述了本说明书的主题的一个或多个实施例的细节。根据说明书、附图和权利要求，本主题的其他特征、方面和优点将变得显而易见。

附图说明

图1示出了示例数据分类系统。

图2是使用比较样本的比较集来对新样本进行分类的示例过程的流程图。