[发明专利]指令处理方法、装置及相关产品

说明书

本公开涉及一种指令处理方法、装置及相关产品。机器学习装置包括一个或多个指令处理装置，用于从其他处理装置中获取待运算数据和控制信息，并执行指定的机器学习运算，将执行结果通过I/O接口传递给其他处理装置；当机器学习运算装置包含多个指令处理装置时，多个指令处理装置间可以通过特定的结构进行连接并传输数据。其中，多个指令处理装置通过快速外部设备互连总线PCIE总线进行互联并传输数据；多个指令处理装置共享同一控制系统或拥有各自的控制系统、且共享内存或者拥有各自的内存；多个指令处理装置的互联方式是任意互联拓扑。本公开实施例所提供的指令处理方法、装置及相关产品的适用范围广，对指令的处理效率高、处理速度快。

技术领域

本公开涉及计算机技术领域，尤其涉及一种用于实现数据迁移的指令处理方法、装置及相关产品。

背景技术

随着科技的不断发展，机器学习，尤其是神经网络算法的使用越来越广泛。其在图像识别、语音识别、自然语言处理等领域中都得到了良好的应用。但由于神经网络算法的复杂度越来越高，所涉及的数据运算种类和数据量不断增大。

传统的数据迁移方式是通过数据的初始存储空间和目标存储空间实现数据的迁移，但上述数据迁移方式在数据量较大时，对数据进行迁移处理的效率较低、速度较慢。

发明内容

有鉴于此，本公开提出了一种用于实现数据迁移的指令处理方法、装置及相关产品，以提高数据迁移处理的效率和速度。

根据本公开的第一方面，提供了一种指令处理装置，所述装置包括：

编译器，用于对数据迁移指令进行编译，获得编译后的数据迁移指令；

控制模块，用于对编译后的数据迁移指令进行解析，得到所述数据迁移指令的操作码和操作域，并根据所述操作码和所述操作域获得待迁移数据的源操作数信息、所述目标操作数以及迁移参数；其中，所述操作域包括所述源操作数信息、所述目标操作数和所述迁移参数，所述迁移参数包括数据迁移方向和迁移循环参数；以及

处理模块，用于根据所述迁移循环参数，至少执行一次数据迁移操作，所述数据迁移操作包括：按照所述数据迁移方向和所述源操作数信息，将所述待迁移数据搬运至所述目标操作数对应的目标存储空间中。

根据本公开的第二方面，提供了一种机器学习运算装置，所述装置包括：

一个或多个上述第一方面所述的指令处理装置，用于从其他处理装置中获取待迁移数据和控制信息，并执行指定的机器学习运算，将执行结果通过I/O接口传递给其他处理装置；

当所述机器学习运算装置包含多个所述指令处理装置时，所述多个所述指令处理装置间可以通过特定的结构进行连接并传输数据；

其中，多个所述指令处理装置通过快速外部设备互连总线PCIE总线进行互联并传输数据，以支持更大规模的机器学习的运算；多个所述指令处理装置共享同一控制系统或拥有各自的控制系统；多个所述指令处理装置共享内存或者拥有各自的内存；多个所述指令处理装置的互联方式是任意互联拓扑。

根据本公开的第三方面，提供了一种组合处理装置，所述装置包括：

上述第二方面所述的机器学习运算装置、通用互联接口和其他处理装置；

所述机器学习运算装置与所述其他处理装置进行交互，共同完成用户指定的计算操作。

根据本公开的第四方面，提供了一种机器学习芯片，所述机器学习芯片包括上述第二方面所述的机器学习络运算装置或上述第三方面所述的组合处理装置。

根据本公开的第五方面，提供了一种机器学习芯片封装结构，该机器学习芯片封装结构包括上述第四方面所述的机器学习芯片。

根据本公开的第六方面，提供了一种板卡，该板卡包括上述第五方面所述的机器学习芯片封装结构。