[发明专利]运算方法、装置及相关产品

说明书

本公开涉及一种运算方法、装置及相关产品。机器学习装置包括一个或多个指令处理装置，从其他处理装置中获取待运算数据和控制信息，并执行指定的机器学习运算，将执行结果传递给其他处理装置；当机器学习运算装置包含多个指令处理装置时，多个指令处理装置间可以通过特定的结构进行连接并传输数据。多个指令处理装置通过快速外部设备互连总线PCIE总线进行互联并传输数据；多个指令处理装置共享同一控制系统或拥有各自的控制系统、且共享内存或者拥有各自的内存；多个指令处理装置的互联方式是任意互联拓扑。本公开实施例所提供的运算方法、装置及相关产品，对多个中间结果进行循环累加运算，降低了数据访存量和计算量，保证了计算精度。

技术领域

本公开涉及计算机技术领域，尤其涉及一种数据处理装置、方法及相关产品。

背景技术

随着科技的不断发展，机器学习，尤其是神经网络算法的使用越来越广泛。其在图像识别、语音识别、自然语言处理等领域中都得到了良好的应用。但由于神经网络算法的复杂度越来越高，所涉及的数据运算种类和数量不断增大，对如运算器的数量等硬件的要求也不断提高。相关技术中，通过减少或降低数据访存量、计算量的方式降低硬件需求，但会对计算的精度造成损失。如何在保证精度的前提下，降低数据访存量、计算量是亟待解决的问题。

发明内容

有鉴于此，本公开提供了一种数据处理装置、方法及相关产品，以解决保证计算精度与降低数据访存量、计算量无法同时满足的问题。

根据本公开的第一方面，提供了一种数据处理装置，所述装置用于执行机器学习计算，所述装置包括控制模块和处理模块，所述处理模块包括数据传递子模块和累加子模块：

所述控制模块用于获取计算指令，并获取执行所述计算指令所需的输入数据；

所述数据传递子模块用于根据所述计算指令对所述输入数据进行处理，得到多个中间结果，并将所述多个中间结果依次发送至所述累加子模块；

所述累加子模块用于对所述多个中间结果进行循环累加运算，得到所述计算指令的计算结果。

根据本公开的第二方面，提供了一种机器学习运算装置，所述装置包括：

一个或多个上述第一方面所述的数据处理装置，用于从其他处理装置中获取输入数据和控制信息，并执行指定的机器学习运算，将执行结果通过I/O接口传递给其他处理装置；

当所述机器学习运算装置包含多个所述数据处理装置时，所述多个所述数据处理装置间可以通过特定的结构进行连接并传输数据；

其中，多个所述数据处理装置通过快速外部设备互连总线PCIE总线进行互联并传输数据，以支持更大规模的机器学习的运算；多个所述数据处理装置共享同一控制系统或拥有各自的控制系统；多个所述数据处理装置共享内存或者拥有各自的内存；多个所述数据处理装置的互联方式是任意互联拓扑。

根据本公开的第三方面，提供了一种组合处理装置，所述装置包括：

上述第二方面所述的机器学习运算装置、通用互联接口和其他处理装置；

所述机器学习运算装置与所述其他处理装置进行交互，共同完成用户指定的计算操作。

根据本公开的第四方面，提供了一种机器学习芯片，所述机器学习芯片包括上述第二方面所述的机器学习络运算装置或上述第三方面所述的组合处理装置。

根据本公开的第五方面，提供了一种机器学习芯片封装结构，该机器学习芯片封装结构包括上述第四方面所述的机器学习芯片。

根据本公开的第六方面，提供了一种板卡，该板卡包括上述第五方面所述的机器学习芯片封装结构。

根据本公开的第七方面，提供了一种电子设备，所述电子设备包括上述第四方面所述的机器学习芯片或上述第六方面所述的板卡。