[发明专利]一种计算装置及相关产品

说明书

本申请公开了一种计算装置，该计算装置应用于机器学习芯片，该机器学习芯片设置于板卡上，该板卡包括：存储器件，用于存储数据；接口装置，用于实现机器学习芯片与外部设备之间的数据传输；控制器件，用于对机器学习芯片的状态进行监控和管理，上述计算装置包括：运算单元、控制单元和存储单元。采用本申请实施例能够减少机器学习芯片的计算时间和计算能耗。

技术领域

本申请涉及信息处理技术领域，具体涉及一种计算装置及相关产品。

背景技术

随着信息技术的不断发展和人们日益增长的需求，人们对信息及时性的要求越来越高了。目前，终端对信息的获取以及处理均是基于通用处理器获得的。

在实践中发现，这种基于通用处理器运行软件程序来处理信息的方式，受限于通用处理器的运行速率，特别是在通用处理器负荷较大的情况下，信息处理效率较低、时延较大，对于信息处理的计算模型例如计算模型的正向运算来说，正向运算的计算量更大，通用的处理器完成正向运算的时间长，效率低，功耗高。

发明内容

本申请实施例提供了一种计算装置及相关产品，可以利用机器学习输入的相似性计算的机器学习加速器，可以充分地利用输入的相似性，极大地提高性能。

第一方面，提供一种计算装置，所述计算装置用于执行机器学习计算，所述计算装置包括：运算单元以及控制单元；

所述控制单元，用于获取计算指令，并发送所述计算指令到所述运算单元；

所述运算单元，用于依据所述计算指令对输入数据进行量化，并对量化后的所述输入数据执行运算操作，得到运算结果，具体为：依据量化后的所述输入数据与上一次计算过程的量化后的输入数据之间的相似性进行运算。

第二方面，本申请实施例提供了一种机器学习运算装置，该机器学习运算装置包括一个或者多个第一方面所述的计算装置。该机器学习运算装置用于从其他处理装置中获取待运算数据和控制信息，并执行指定的机器学习运算，将执行结果通过I/O接口传递给其他处理装置；

当所述机器学习运算装置包含多个所述计算装置时，所述多个所述计算装置间可以通过特定的结构进行链接并传输数据；

其中，多个所述计算装置通过PCIE总线进行互联并传输数据，以支持更大规模的机器学习的运算；多个所述计算装置共享同一控制系统或拥有各自的控制系统；多个所述计算装置共享内存或者拥有各自的内存；多个所述计算装置的互联方式是任意互联拓扑。

第三方面，本申请实施例提供了一种组合处理装置，该组合处理装置包括如第三方面所述的机器学习处理装置、通用互联接口，和其他处理装置。该机器学习运算装置与上述其他处理装置进行交互，共同完成用户指定的操作。该组合处理装置还可以包括存储装置，该存储装置分别与所述机器学习运算装置和所述其他处理装置连接，用于保存所述机器学习运算装置和所述其他处理装置的数据。

第四方面，本申请实施例提供了一种机器学习芯片，该机器学习芯片包括上述第一方面所述的计算装置、上述第二方面所述的机器学习运算装置或者上述第三方面所述的组合处理装置。

第五方面，本申请实施例提供了一种机器学习芯片封装结构，该机器学习芯片封装结构包括上述第四方面所述的机器学习芯片；

第六方面，本申请实施例提供了一种板卡，该板卡包括上述第五方面所述的机器学习芯片封装结构。

第七方面，本申请实施例提供了一种电子装置，该电子装置包括上述第六方面所述的机器学习芯片或者上述第六方面所述的板卡。

第八方面，本申请实施例还提供一种执行机器学习模型的计算方法，所述计算方法应用于计算装置，所述计算装置用于执行机器学习计算；所述计算装置包括：运算单元以及控制单元；所述方法包括：

所述控制单元获取计算指令，并发送所述计算指令到所述运算单元；