[发明专利]计算多个值中最小值或最大值的基于优先级编码器的技术

说明书

公开了计算多个值中最小值或最大值的基于优先级编码器的技术。在各个实施例中，确定多个输入值的最大值或最小值。对于一组可能值中的每一个，设置对应的检测结果以指示所述输入值中的至少一个是否与所述可能值匹配。检测结果用于确定多个输入值中的最大值或最小值。

技术领域

各个实施例总体上涉及计算机处理系统，并且更具体地涉及用于计算多个值中的最小值或最大值的基于优先级编码器的技术。

背景技术

浮点矩阵乘法是许多机器学习算法的基本构建块。m×n矩阵A与n×p矩阵B之间的矩阵相乘产生m×p矩阵C，其中，C的元素c_ij是A的i行与B的j列的点积，并且因此可以表示为为了以高吞吐量执行浮点矩阵乘法，一些处理器包括被称为“浮点矩阵乘法数据路径”的专用硬件组件的集合。

在许多浮点矩阵乘法数据路径中，每一浮点值以尾数×2^指数的格式表示。尾数是经由位序列表示的整数，而指数是经由较短位序列表示的整数。为了在计算多个浮点值的总和(例如，n个乘积a_ik b_kj)时有效地校准尾数上的小数点，数据路径通常计算多个值中的最大指数且将每一个值右移该最大指数与该值的指数之间的差。

计算n个指数中的最大值的一种方法涉及在浮点矩阵乘法数据路径中实施n输入的基于树的最大值电路。基于树的最大值电路是子电路的二叉树，其中，每个子电路包括但不限于：比较器，该比较器对两路输入进行比较；以及多路复用器，该多路复用器选择并输出这两路输入中的最大值。除了最后一个子电路之外的所有子电路的输出是下一级中的子电路的输入。例如，四输入的基于树的最大值电路包括但不限于在顶层中的两个子电路和在底层中的单个子电路。顶层中的每个子电路计算不同输入值对的两路最大值。最后一层中的子电路计算并输出两路最大值中的最大值。

基于树的最大值电路的一个缺点是，由于点积的深度随着半导体技术和架构的进步而增大，基于树的最大值电路已变成一些浮点矩阵乘法数据路径的性能瓶颈。更具体地，许多基于树的最大值电路的输入的数量大约随着每个设计代(design generation)加倍(例如，从4到8到16，甚至到32)。使输入值的数量加倍需要向二叉树添加附加层，并且向二叉树添加层显著地增加基于树的最大值电路的延迟，从而限制可实现的设计时钟频率。因此，限制了浮点矩阵乘法数据路径的总体性能。

基于树的最大值电路的另一个缺点是基于树的最大值电路不适合管线操作。如本文所使用的，“管线化”是指经由管线寄存器(例如，触发器)将逻辑分成多个级。管线寄存器存储各级之间的信号，以使得各级能够并行地对不同数据执行。在浮点矩阵乘法数据路径的背景中，指数通常存储在寄存器中以用于后续移位操作，且因此应用管线化设计的部分最大值电路所需的附加寄存器的数目对应于最大值电路的内部结构。对于基于树的最大值电路，存储二叉树的内部状态所需的相对大量的管线寄存器可能是管线化的障碍。

出于说明性目的，在基于树的最大值电路的背景下，上文描述了通常与在浮点矩阵乘法数据路径中实现的现有最大值电路相关联的缩放问题。然而，其他类型的现有最大值电路也具有不期望的高延迟、具有随着指数的数量过度增加的延迟、难以管线化、或者是其任意组合。

如上所述，在本领域中所需要的是用于计算浮点点积管线中的最大指数的更有效的技术。

发明内容

本发明实施例提出了一种电路。电路包括一组检测子电路，其中包括在该组检测子电路中的每个检测子电路计算包括在一组检测结果中的不同检测结果，并且指示包括在一组输入值中的至少有一个输入值是否等于不同的整数；以及编码器，耦合至所述一组检测子电路，所述编码器从编码器输入数据确定活动位，其中包括在该组检测结果中的每个检测结果是所述编码器输入数据中的不同的位，并且对与所述活动位相关联的位位置进行编码以生成最大值。