[发明专利]用于多流并行的同步部署系统及其方法

权利要求书

1.一种用于多流并行的同步部署系统，包括：

初始计算图获取组件，获取将部署在CPU以及一个或多个协处理器上的初始计算图，所述初始计算图包括属于一个计算任务的多个任务流，每个任务流包含多个顺序执行的运算逻辑节点，每个运算逻辑节点含有所属任务流标记；

节点关系分析组件，遍历所述初始计算图中将被针对的所有张量，判断首次针对第一张量的第一节点和针对第一张量的第二节点所属的任务流是否相同以及分析确定第二节点是否为第二任务流中的第一个针对第一张量的节点；

同步节点部署组件，在节点关系分析组件确定第一节点属于第一任务流而第二节点属于不同于第一任务流的第二任务流时，在第二节点之前部署标记第一任务流的第一同步依赖节点，并将第二节点标记所述第一同步依赖节点，由此通过所述第一同步依赖节点确定第一节点的操作先于第二节点操作，并且在第二节点为第二任务流中的第一个针对第一张量的节点时只在第二节点之前部署标记第一任务流的第一同步依赖节点，并只将第二节点标记所述第一同步依赖节点。

2.根据权利要求1所述的用于多流并行的同步部署系统，其中所述节点关系分析组件确定第二节点之后的第三节点是否属于不同于第一任务流和第二任务流的第三任务流中的针对第一张量的节点，以及所述同步节点部署组件在第三节点属于不同于第一任务流和第二任务流的第三任务流中的针对第一张量的节点时，将第三节点标记所述第一同步依赖节点。

3.根据权利要求1所述的用于多流并行的同步部署系统，其中所述节点关系分析组件还判断至少针对第四张量和第五张量的第六节点所属的任务流是否与首次针对第四张量的第四节点所属的第四任务流和首次针对第五张量的第五节点所属的第五任务流是否都不相同，以及所述同步节点部署组件在至少针对第四张量和第五张量的第六节点所属的任务流为与首次针对第四张量的第四节点所属的第四任务流和首次针对第五张量的第五节点所属的第五任务流都不相同的第六任务流时，在所述第六节点之前至少连续部署标记第四任务流的第四同步依赖节点和标记第五任务流的第五同步依赖节点，并将第六节点至少标记所述第四同步依赖节点和第五同步依赖节点，由此通过所述第四同步依赖节点和第五同步依赖节点确定第四节点和第五节点的操作先于第六节点的操作。

4. 根据权利要求1-3之一所述的用于多流并行的同步部署系统，还包括：

节点部署统计组件，统计同步节点部署组件在同一轮次所部署的同步依赖节点的数量；以及

循环判断组件，在节点部署统计组件统计结果为零时，判断同步依赖节点部署完成，以及在节点部署统计组件统计结果不为零时，将当前的结果计算图作为初始计算图发反馈到初始计算图获取组件。

5.一种用于多流并行的同步部署方法，包括：

初始计算图获取步骤，获取将部署在CPU以及一个或多个协处理器上的初始计算图，所述初始计算图包括属于一个计算任务的多个任务流，每个任务流包含多个顺序执行的运算逻辑节点，每个运算逻辑节点含有所属任务流标记；

节点关系分析步骤，遍历所述初始计算图中将被针对的所有张量，判断首次针对第一张量的第一节点和针对第一张量的第二节点所属的任务流是否相同以及分析确定第二节点是否为第二任务流中的第一个针对第一张量的节点；

同步节点部署步骤，在节点关系分析步骤确定第一节点属于第一任务流而第二节点属于不同于第一任务流的第二任务流时，在第二节点之前部署标记第一任务流的第一同步依赖节点，并将第二节点标记所述第一同步依赖节点，由此通过所述第一同步依赖节点确定第一节点的操作先于第二节点操作，并且在第二节点为第二任务流中的第一个针对第一张量的节点时只在第二节点之前部署标记第一任务流的第一同步依赖节点，并只将第二节点标记所述第一同步依赖节点。

6.根据权利要求5所述的用于多流并行的同步部署方法，其中所述节点关系分析步骤中还确定第二节点之后的第三节点是否属于不同于第一任务流和第二任务流的第三任务流中的针对第一张量的节点，以及在所述同步节点部署步骤中在第三节点属于不同于第一任务流和第二任务流的第三任务流中的针对第一张量的节点时，将第三节点标记所述第一同步依赖节点。