[发明专利]一种计算装置及相关产品

权利要求书

1.一种计算装置，其特征在于，所述计算装置用于执行机器学习计算，所述计算装置包括：运算单元以及控制单元；

所述控制单元，用于获取计算指令，并发送所述计算指令到所述运算单元；

所述运算单元，用于依据所述计算指令对输入数据进行量化，并对量化后的所述输入数据执行运算操作，得到运算结果，具体为：依据量化后的所述输入数据与上一次计算过程的量化后的输入数据之间的相似性进行运算。

2.根据权利要求1所述的装置，其特征在于，所述运算单元包括复用单元；

所述复用单元，用于将量化后的所述输入数据与上一次计算过程的量化后的输入数据进行比较，若比较结果满足预设条件，则跳过此次输入数据的计算而采用上一次执行运算的结果，若比较结果为不满足所述预设条件，则将量化后的所述输入数据与上一次计算过程的量化后的输入数据之差与权值进行计算，并将得到的结果对上一次执行运算的结果进行修正。

3.根据权利要求1或2所述的装置，其特征在于，所述控制单元包括：依赖关系处理单元和指令缓存单元；

所述依赖关系处理单元，用于确定第j计算指令与所述第j计算指令之前的第j－1计算指令是否存在关联关系，如所述第j计算指令与所述第j－1计算指令存在关联关系，将所述第j计算指令缓存在所述指令缓存单元内，在所述第j－1计算指令执行完毕后，从所述指令缓存单元提取所述第j计算指令传输至所述运算单元，j为正整数。

4.根据权利要求1－3任一项所述的装置，其特征在于，所述运算单元包括一个主处理电路、一个或多个分支处理电路以及多个从处理电路，

所述主处理电路，用于将一个输入数据分配成多个数据块，将所述多个数据块中的至少一个数据块以及多个计算指令中的至少一个计算指令发送给所述分支处理电路；

所述分支处理电路，用于转发所述主处理电路与所述多个从处理电路之间的数据块和计算指令；

所述多个从处理电路，用于依据接收到的计算指令和数据块执行运算得到中间结果，并将所述中间结果传输给所述分支处理电路；

所述主处理电路，用于将所述分支处理电路发送的所述中间结果进行处理得到所述计算指令的计算结果。

5.一种机器学习运算装置，其特征在于，所述机器学习运算装置包括一个或多个如权利要求1-4任一项所述的计算装置，用于从其他处理装置中获取待运算输入数据和控制信息，并执行指定的机器学习运算，将执行结果通过I/O接口传递给其他处理装置；

当所述机器学习运算装置包含多个所述计算装置时，所述多个所述计算装置间可以通过特定的结构进行连接并传输数据；

其中，多个所述计算装置通过互连总线PCIE总线进行互联并传输数据，以支持更大规模的机器学习的运算；多个所述计算装置共享同一控制系统或拥有各自的控制系统；多个所述计算装置共享内存或者拥有各自的内存；多个所述计算装置的互联方式是任意互联拓扑。

6.一种组合处理装置，其特征在于，所述组合处理装置包括如权利要求5所述的机器学习运算装置，通用互联接口和其他处理装置；

所述机器学习运算装置与所述其他处理装置进行交互，共同完成用户指定的计算操作。

7.一种机器学习芯片，其特征在于，所述机器学习芯片包括如权利要求5所述的机器学习运算装置或如权利要求6所述的组合处理装置。

8.一种电子设备，其特征在于，所述电子设备包括如所述权利要求7所述的芯片。

9.一种板卡，其特征在于，所述板卡包括：存储器件、接口装置和控制器件以及如权利要求7所述的机器学习芯片；

其中，所述机器学习芯片与所述存储器件、所述控制器件以及所述接口装置分别连接；

所述存储器件，用于存储数据；

所述接口装置，用于实现所述芯片与外部设备之间的数据传输；

所述控制器件，用于对所述芯片的状态进行监控和管理。

10.一种执行机器学习模型的计算方法，其特征在于，所述计算方法应用于计算装置，所述计算装置用于执行机器学习计算；所述计算装置包括：运算单元以及控制单元；所述方法包括：

所述控制单元获取计算指令，并发送所述计算指令到所述运算单元；

所述运算单元依据所述计算指令对输入数据进行量化，并对量化后的所述输入数据执行运算操作，得到运算结果，具体为：依据量化后的所述输入数据与上一次计算过程的量化后的输入数据之间的相似性进行运算。