[发明专利]运算方法、装置及相关产品

说明书

本公开涉及一种运算方法、装置及相关产品。机器学习装置包括一个或多个指令处理装置，用于从其他处理装置中获取待处理数据和控制信息，并执行指定的机器学习运算，将执行结果通过I/O接口传递给其他处理装置；当机器学习运算装置包含多个指令处理装置时，多个指令处理装置间可以通过特定的结构进行连接并传输数据。其中，多个指令处理装置通过快速外部设备互连总线PCIE总线进行互联并传输数据；多个指令处理装置共享同一控制系统或拥有各自的控制系统、且共享内存或者拥有各自的内存；多个指令处理装置的互联方式是任意互联拓扑。本公开实施例所提供的运算方法、装置及相关产品的适用范围广，对指令的处理效率高、处理速度快。

技术领域

本公开涉及计算机技术领域，尤其涉及一种神经网络运算指令处理方法、装置及相关产品。

背景技术

随着科技的不断发展，机器学习，尤其是神经网络算法的使用越来越广泛。其在图像识别、语音识别、自然语言处理等领域中都得到了良好的应用。但由于神经网络算法的复杂度越来越高，所涉及的数据运算种类和数量不断增大。相关技术中，在对数据进行神经网络相关的卷积、池化等运算处理的效率低、速度慢。

发明内容

有鉴于此，本公开提出了一种神经网络运算指令处理方法、装置及相关产品，以提高对数据进行神经网络运算处理的效率和速度。

根据本公开的第一方面，提供了一种神经网络运算指令处理装置，所述装置包括：

控制模块，用于对接收到的神经网络运算指令进行解析，获得所述神经网络运算指令的操作码和操作域，并根据所述操作码和所述操作域确定执行所述神经网络运算指令所需的待处理数据和目标地址，以及确定与所述神经网络运算指令相对应的数据处理类型；

处理模块，用于根据所述数据处理类型对所述待处理数据进行处理，得到处理后的数据，并将所述处理后的数据存入所述目标地址中，

其中，所述操作码用于指示所述神经网络运算指令对数据所需进行的处理至少包括神经网络运算处理，

所述数据处理类型包括所述待处理数据的初始数据类型、所述处理后的数据的目标数据类型和运算类型，所述初始数据类型或所述目标数据类型为浮定点数数据类型，

所述操作域包括所述待处理数据地址和所述目标地址。

根据本公开的第二方面，提供了一种机器学习运算装置，所述装置包括：

一个或多个上述第一方面所述的神经网络运算指令处理装置，用于从其他处理装置中获取待处理数据和控制信息，并执行指定的机器学习运算，将执行结果通过I/O接口传递给其他处理装置；

当所述机器学习运算装置包含多个所述神经网络运算指令处理装置时，所述多个所述神经网络运算指令处理装置间可以通过特定的结构进行连接并传输数据；

其中，多个所述神经网络运算指令处理装置通过快速外部设备互连总线PCIE总线进行互联并传输数据，以支持更大规模的机器学习的运算；多个所述神经网络运算指令处理装置共享同一控制系统或拥有各自的控制系统；多个所述神经网络运算指令处理装置共享内存或者拥有各自的内存；多个所述神经网络运算指令处理装置的互联方式是任意互联拓扑。

根据本公开的第三方面，提供了一种组合处理装置，所述装置包括：

上述第二方面所述的机器学习运算装置、通用互联接口和其他处理装置；

所述机器学习运算装置与所述其他处理装置进行交互，共同完成用户指定的计算操作。

根据本公开的第四方面，提供了一种机器学习芯片，所述机器学习芯片包括上述第二方面所述的机器学习络运算装置或上述第三方面所述的组合处理装置。