[发明专利]具有数据关联自适应舍入的处理核心

说明书

本文公开了具有数据关联自适应舍入的处理核心和关联方法。一个公开的处理核心包括：配置为使用输入的定向图数据生成定向图数据的单元的值的算术逻辑单元集群，耦合至阈值寄存器和数据寄存器的比较器，配置为当定向图数据的单元的值被加载到数据寄存器中时、将阈值加载到阈值寄存器中的核心控制器，和舍入电路。该舍入电路被配置为从该算数逻辑单元集群接收定向图数据的单元的值，并基于来自比较器的比较器输出，有条件地舍入所述定向图数据的单元的值。

相关申请的交叉引用

本申请要求于2018年9月28日提交的美国临时专利申请号62/738,286的权益，出于所有目的将其全部内容通过引用合并于此。

技术领域

本公开涉及具有数据关联自适应舍入的处理核心。

背景技术

机器智能系统的性能的最近激增不是由于革命性的新算法的发展。事实上，当今机器智能应用中使用的核心算法源于当今半个多世纪的历史(body of work)。取而代之的是，其已经成为助长了最近激增的、以有效的方式实现机器智能算法的、硬件和软件的改进。曾经过于计算密集使得即使最复杂的计算机也无法以有用的方式实现的算法现在可以在单个用户的智能电话上使用专用硬件运行。硬件和软件的改进采取各种形式。例如，传统上用来处理用于渲染计算机图形多边形的向量的图形处理单元已经以有效方式改换用途，以操纵机器智能处理中使用的数据元素。作为另一示例，已经通过使用专用处理元素(例如脉动阵列)从头开始设计了某些类别的硬件，以实现机器智能算法。进一步的进展已集中在使用晶体管和存储元件的集合，直接在硬件中模仿(mimic)传统人工神经网络(ANN)中神经元的行为。毫无疑问，机器智能领域从这些改进中受益匪浅。然而，尽管人们对这些方案有着浓厚的兴趣，但是机器智能系统仍然代表着现代计算量和能源密集度最高的计算应用之一，并且呈现为进一步发展做好准备的领域。

机器智能应用如此资源匮乏的原因是，要对其进行操作的数据结构通常非常大，并且必须在每个数据结构上运行的离散原始计算的数量同样很多。传统的ANN采用输入向量，使用输入向量和权重向量的集合进行计算，然后产生输出向量。权重向量的集合中的每个权重向量通常被称为网络的一层，并且每一层的输出充当下一层的输入。在传统网络中，各层是完全连接的，这要求输入向量的每个元素都与权重向量的每个元素一起参与计算。因此，所参与的计算数量与每层的大小随幂律关系而增加。此外，机器智能算法的这一方面使它们难以并行化，因为每一层的计算都取决于先前层的输出。

现代ANN使前段中提到的问题更加恶化。现代ANN方案在业界和文献中经常被称为“深度学习”方案。这通常是指涉及的层数很多，或者一层的输出与其他层的输入之间的关系的复杂度。例如，在现代深度学习ANN中，下游层的输出可以反馈到前一层，从而在总体计算中添加递归元素。层的增加、以及与层之间的递归关系相关联的额外复杂度两者都增加了实现现代ANN所需的计算资源。

图1图示了用于现代机器智能系统的计算的定向图(directed graph)100。定向图100的输入是输入张量X。定向图100的输出是输出张量Y。输入可以是画面的编码，例如猫101的图像。在此示例中，定向图100的运行涉及这样的图，该图提供关于文本猜测的编码，该文本猜测关于所编码的图像的内容包含什么。图形输出可以称为由定向图生成的推断，因为机器智能系统正根据画面的编码有效地推断画面示出了什么内容。这样，如果定向图10代表训练有素的机器智能系统，则具有输入张量X的图100的运行将产生输出张量Y，该输出张量Y如图所示编码单词“猫”。