[发明专利]运算方法、装置及相关产品

说明书

本公开涉及一种运算方法、装置及相关产品。板卡包括：存储器件、接口装置和控制器件以及机器学习芯片；其中，机器学习芯片与存储器件、控制器件以及接口装置分别连接；存储器件用于存储数据；接口装置用于实现机器学习芯片与外部设备之间的数据传输；控制器件用于对机器学习芯片的状态进行监控。

技术领域

本公开涉及计算机技术领域，尤其涉及一种张量重排指令处理方法、装置及相关产品。

背景技术

随着科技的不断发展，机器学习，尤其是神经网络算法的使用越来越广泛。其在图像识别、语音识别、自然语言处理等领域中都得到了良好的应用。但由于神经网络算法的复杂度越来越高，所涉及的数据运算种类和数量不断增大。相关技术中，在对张量数据进行重排处理的效率低、速度慢。

发明内容

有鉴于此，本公开提出了一种张量重排指令处理方法、装置及相关产品，以提高对张量进行重排处理的效率和速度。

根据本公开的第一方面，提供了一种张量重排指令处理装置，所述装置包括：

控制模块，用于对接收到的张量重排指令进行解析，获得所述张量重排指令的操作码和操作域，并根据所述操作码和所述操作域确定执行所述张量重排指令所需的待处理张量和目标地址，以及确定进行重排处理所需的重排策略；

处理模块，根据所述重排策略对所述待处理张量进行重排处理，得到重排张量，并将所述重排张量存入所述目标地址中，

其中，所述操作码用于指示所述张量重排指令对张量数据所进行的处理为重排处理，所述操作域包括所述待处理张量地址和所述目标地址。

根据本公开的第二方面，提供了一种机器学习运算装置，所述装置包括：

一个或多个上述第一方面所述的张量重排指令处理装置，用于从其他处理装置中获取待处理张量和控制信息，并执行指定的机器学习运算，将执行结果通过I/O接口传递给其他处理装置；

当所述机器学习运算装置包含多个所述张量重排指令处理装置时，所述多个所述张量重排指令处理装置间可以通过特定的结构进行连接并传输数据；

其中，多个所述张量重排指令处理装置通过快速外部设备互连总线PCIE总线进行互联并传输数据，以支持更大规模的机器学习的运算；多个所述张量重排指令处理装置共享同一控制系统或拥有各自的控制系统；多个所述张量重排指令处理装置共享内存或者拥有各自的内存；多个所述张量重排指令处理装置的互联方式是任意互联拓扑。

根据本公开的第三方面，提供了一种组合处理装置，所述装置包括：

上述第二方面所述的机器学习运算装置、通用互联接口和其他处理装置；

所述机器学习运算装置与所述其他处理装置进行交互，共同完成用户指定的计算操作。

根据本公开的第四方面，提供了一种机器学习芯片，所述机器学习芯片包括上述第二方面所述的机器学习络运算装置或上述第三方面所述的组合处理装置。

根据本公开的第五方面，提供了一种机器学习芯片封装结构，该机器学习芯片封装结构包括上述第四方面所述的机器学习芯片。

根据本公开的第六方面，提供了一种板卡，该板卡包括上述第五方面所述的机器学习芯片封装结构。

根据本公开的第七方面，提供了一种电子设备，所述电子设备包括上述第四方面所述的机器学习芯片或上述第六方面所述的板卡。

根据本公开的第八方面，提供了一种张量重排指令处理方法，所述方法应用于张量重排指令处理装置，所述方法包括：