[发明专利]基于先前的简化图执行的条件性图执行

说明书

本文公开了用于执行有向图的计算机实施的方法和相关联的硬件。一种示例方法包括导出有向图的简化版本、将先导输入张量应用于有向图的简化版本，以及在将先导输入张量应用于有向图的简化版本期间获得执行数据的集合。该方法还包括将实时输入张量应用于有向图，并使用执行数据的集合来条件化有向图的执行。从有向图的条件性执行中获得输出张量。

相关申请的交叉引用

本申请要求于2018年4月4日提交的美国专利申请号15/945,454和于2017年4月7日提交的美国临时专利申请号62/483,133的权益，出于所有目的这两个申请通过引用整体结合于此。

技术领域

XXX

背景技术

机器智能系统性能的最近的激增不是由于革命性新算法的发展。事实上，今天机器智能应用中使用的核心算法源于如今有半个多世纪历史的大量工作。相反，正是硬件和软件方面的改进以高效的方式实施了机器智能算法，这推动了最近的激增。曾经在计算方面过于密集而甚至无法利用最复杂的计算机来实施的算法现在可以利用单个用户的智能手机上的专用硬件来执行。硬件和软件方面的改进采取了各种形式。例如，传统地处理用于为计算机图形渲染多边形的向量的图形处理单元已经以高效的方式被重新利用，来操纵机器智能处理中使用的数据元素。作为另一示例，某些类别的硬件已经被从头开始设计，以通过使用诸如脉动型(systolic)阵列的专门处理元件来实施机器智能算法。进一步的进展集中于使用晶体管和存储器元件的集合来直接在硬件中模拟传统人工神经网络(artificialneural network，ANN)中的神经元的行为。毫无疑问，机器智能领域已从这些改进中大大受益。然而，尽管对这些方法有着浓厚的兴趣，但机器智能系统仍然代表当今最有计算力和能量密集的计算应用之一，并且呈现了准备着进一步发展领域。

机器智能应用如此渴求资源的原因是，对其进行操作的数据结构通常非常大，并且必须在数据结构中的每一个上执行的离散原语计算的数量同样巨大。传统的ANN接受输入向量，使用输入向量和一组权重向量进行计算，并产生输出向量。该组权重向量中的每个权重向量通常被称为网络的层，并且每个层的输出用作下一层的输入。在传统网络中，这些层是完全连接的，这需要在用权重向量的每个元素的计算中涉及输入向量的每个元素。因此，所涉及的计算的数量随着与每个层的大小的幂律(power law)关系而增加。另外，机器智能算法的这一方面使得它们难以并行化，因为针对每一层的计算依赖于前一层的输出。

现代ANN进一步加剧了前一段提到的问题。现代ANN方法在工业和文学作品中通常被称为“深度学习”方法。这通常是指所涉及的大量层、或者一个层的输出和其他层的输入之间的关系的复杂性。例如，在现代深度学习ANN中，下游层的输出可以被反馈到前一层，这从而在整体计算中添加递归元素。与层之间的递归关系相关联的附加的复杂性增加了实施现代ANN所需的计算资源。

图1示出了用于现代机器智能系统的计算的有向图100。有向图100的输入是输入张量X。有向图100的输出是输出张量Y。输入可以是用于图片(诸如猫101的图像)的编码。在这个示例中，有向图100的执行涉及图提供关于经编码图像的内容包含了什么的文本猜测的编码。图输出可以被称为由有向图生成的推理，因为机器智能系统高效地从图片的编码中推理图片显示了什么。由此，如果有向图100表示适当训练的机器智能系统，用输入张量X执行图100将产生输出张量Y，该输出张量Y编码了如图所示的单词“CAT”。