[发明专利]基于广播机制进行张量计算的方法、装置、芯片及介质

说明书

本发明实施例公开了一种基于广播机制进行张量计算的方法、装置、芯片及介质。该方法包括：获取第一张量和第二张量，第一张量的维数大于或等于第二张量的维数；判断第一张量和第二张量是否满足广播机制条件，若满足，则确定与第一张量和第二张量分别对应的第一目标张量和第二目标张量，第一目标张量和第二目标张量的后缘维度的轴长度相符；通过通用计算硬件单元组，采用广播机制对第一目标张量和第二目标张量进行张量计算，得到张量计算备选结果；根据张量计算备选结果，确定与第一张量和第二张量对应的目标计算结果。上述技术方案实现了在无支持广播计算的专用底层硬件时全面支持广播机制中所有形式的广播操作。

技术领域

本发明实施例涉及数据处理技术领域，尤其涉及一种基于广播机制进行张量计算的方法、装置、芯片及介质。

背景技术

在使用Tensorflow、Pytorch和Mxnet等深度学习框架过程中，经常遇到形状不相同的数组也可以进行加减乘除等算子操作，这主要由于其内部存在的广播机制。广播机制，指的是如果两个数组的后缘维度(trailing dimension，即从末尾开始算起的维度)的轴长度相符，或其中一方的长度为1，则认为它们是广播兼容的。

在实际应用中，需要支持广播操作的硬件比较多，如加减乘除、逻辑与，逻辑或，求最大值(maximum)，求最小值(minmum)，求幂(pow)，大于，大于等于，小于，小于等于，不相等，等等。由于广播会在缺失和/或长度为1的维度上进行，故广播机制中涉及的广播操作形式有多种，目前针对每种算子都需要单独配置硬件，以支持与此算子对应的所有形式的广播操作。

因此，在无法针对每种算子都单独配置硬件以支持与此算子对应的所有形式的广播操作时，也即在无支持广播计算的专用底层硬件时，如何全面支持与各种算子对应的所有形式的广播操作是亟待解决的问题。

发明内容

本发明实施例提供一种基于广播机制进行张量计算的方法、装置、设备及介质，以实现在无支持广播计算的专用底层硬件时全面支持广播机制中所有形式的广播操作。

第一方面，本发明实施例提供了一种基于广播机制进行张量计算的方法，包括：

获取第一张量和第二张量，第一张量的维数大于或等于第二张量的维数；

判断第一张量和第二张量是否满足广播机制条件，若满足，则确定与第一张量和第二张量分别对应的第一目标张量和第二目标张量，第一目标张量和第二目标张量的后缘维度的轴长度相符；

通过通用计算硬件单元组，采用广播机制对第一目标张量和第二目标张量进行张量计算，得到张量计算备选结果；

根据张量计算备选结果，确定与第一张量和第二张量对应的目标计算结果。

第二方面，本发明实施例还提供了一种基于广播机制进行张量计算的装置，包括：

张量获取模块，用于获取第一张量和第二张量，第一张量的维数大于或等于第二张量的维数；

张量处理模块，用于判断第一张量和第二张量是否满足广播机制条件，若满足，则确定与第一张量和第二张量对应的第一目标张量和第二目标张量，第一目标张量和第二目标张量的后缘维度的轴长度相符；

张量计算模块，用于通过通用计算硬件单元组，采用广播机制对第一目标张量和第二目标张量进行张量计算，得到张量计算备选结果；

计算结果确定模块，用于根据张量计算备选结果，确定与第一张量和第二张量对应的目标计算结果。

第三方面，本发明实施例还提供了一种芯片，包括存储器、处理器、通用计算硬件单元组及存储在存储器上并可在处理器上运行的计算机程序，所述处理器执行所述程序时实现本发明任意实施例所述的基于广播机制进行张量计算的方法，所述通用计算硬件单元组用于采用广播机制对第一目标张量和第二目标张量进行张量计算，得到张量计算备选结果。