[发明专利]深度学习计算方法、装置、芯片及介质

权利要求书

1.一种深度学习计算方法，其特征在于，应用于芯片中，包括：

获取初始计算图；

根据所述初始计算图生成重构计算图；其中，所述重构计算图中包括多个计算节点组，不同的计算节点组对应的执行设备为所述芯片内不同的计算集群；

通过所述芯片内的多个计算集群处理所述重构计算图；

所述根据所述初始计算图生成重构计算图，包括：

在所述初始计算图中确定数据输入节点、计算节点组和可训练变量节点；

调整与所述数据输入节点对应的输入子图结构、与所述可训练变量节点对应的变量子图结构，将与所述计算节点组对应的计算子图结构进行复制，并增加计算结果汇总子图结构，得到所述重构计算图；

其中，所述初始计算图中的计算子图结构以及复制得到的计算子图结构所对应的执行设备分别为所述芯片内不同的计算集群。

2.根据权利要求1所述的方法，其特征在于，所述调整与所述可训练变量节点对应的变量子图结构，包括：

将所述变量子图结构作为所述初始计算图中的计算子图结构以及复制得到的计算子图结构的共享结构。

3.根据权利要求1所述的方法，其特征在于，所述调整与所述数据输入节点对应的输入子图结构，包括：

根据所述数据输入节点的节点类型，确定与所述数据输入节点对应的目标子图调整方式；

根据所述目标子图调整方式，对所述输入子图结构中的取数据节点进行复制，得到与所述数据输入节点对应的重构子图结构；

其中，所述重构子图结构中多个取数据节点分别取得的数据共同构成与所述数据输入节点对应的缓存数据。

4.根据权利要求1所述的方法，其特征在于，所述增加计算结果汇总子图结构，包括：

根据与生成所述初始计算图的深度学习框架匹配的计算结果汇总标准子图结构，增加所述计算结果汇总子图结构。

5.根据权利要求1所述的方法，其特征在于，所述根据所述初始计算图生成重构计算图，还包括：

在所述初始计算图中确定数据汇总输出节点对应的输出子图结构；

根据目标需求调整或复制与所述数据汇总输出节点对应的输出子图结构。

6.根据权利要求1-5任一项所述的方法，其特征在于，所述根据所述初始计算图生成重构计算图，包括：

如果所述初始计算图和所述芯片的硬件结构符合片内分布式计算条件，则根据所述初始计算图生成重构计算图。

7.一种深度学习计算装置，其特征在于，应用于芯片中，包括：

初始计算图获取模块，用于获取初始计算图；

重构计算图生成模块，用于根据所述初始计算图生成重构计算图；其中，所述重构计算图中包括多个计算节点组，不同的计算节点组对应的执行设备为所述芯片内不同的计算集群；

重构计算图处理模块，用于通过所述芯片内的多个计算集群处理所述重构计算图；

所述重构计算图生成模块包括：节点类型划分单元和计算图重构单元；

其中，所述节点类型划分单元，用于在所述初始计算图中确定数据输入节点、计算节点组和可训练变量节点；

所述计算图重构单元，用于调整与所述数据输入节点对应的输入子图结构、与所述可训练变量节点对应的变量子图结构，将与所述计算节点组对应的计算子图结构进行复制，并增加计算结果汇总子图结构，得到所述重构计算图；

其中，所述初始计算图中的计算子图结构以及复制得到的计算子图结构所对应的执行设备分别为所述芯片内不同的计算集群。

8.一种芯片，其特征在于，所述芯片包括：

一个或多个处理器；

存储器，用于存储一个或多个程序，

当所述一个或多个程序被所述一个或多个处理器执行，使得所述一个或多个处理器实现如权利要求1-6中任一项所述的方法。

9.一种计算机可读存储介质，其上存储有计算机程序，其特征在于，该程序被处理器执行时实现如权利要求1-6中任一项所述的方法。