[发明专利]用于多流并行的冲突处理系统及其方法

权利要求书

1.一种用于多流并行的冲突处理系统，包括：

初始计算图获取组件，获取将部署在CPU以及一个或多个协处理器上的初始计算图，所述初始计算图包括属于一个计算任务的多个任务流，每个任务流包含多个顺序执行的运算逻辑节点和内存释放逻辑节点；

节点关系分析组件，遍历所述初始计算图中将被针对的所有张量，判断首次针对第一张量的第一节点和针对第一张量的第二节点所属的任务流是否相同以及确定第二节点是否为最后一个针对第一张量的节点；

冲突消除组件，在节点关系分析组件确定第一节点属于第一任务流而第二节点属于不同于第一任务流的任务流时，在第二节点之前生成标记第一任务流的等待节点，以及在第二节点为最后一个针对第一张量的节点时，在紧接着所述第二节点之后生成标记第一任务流的内存释放节点，从而获得结果计算图。

2.根据权利要求1所述的用于多流并行的冲突处理系统，其中所述节点关系分析组件确定第二节点是否为最后一个针对第一张量的节点，以及在第二节点是最后一个针对第一张量的节点时，所述冲突消除组件将紧接着所述第二节点之后的针对第一张量的内存释放节点修改为属于第一任务流的针对第一张量的内存释放节点。

3.根据权利要求1或2所述的用于多流并行的冲突处理系统，还包括：

节点生成统计组件，统计冲突消除组件所生成的等待节点和内存释放节点的数量；以及

循环判断组件，在节点生成统计组件统计结果为零时，判断冲突消除完成，以及在节点生成统计组件统计结果不为零时，将当前的结果计算图作为初始计算图发反馈到初始计算图获取组件。

4.根据权利要求3所述的用于多流并行的冲突处理系统，其中所述运算逻辑节点包括计算逻辑节点和传输逻辑节点。

5.一种用于多流并行的冲突处理方法，包括：

初始计算图获取步骤，获取将部署在CPU以及一个或多个协处理器上的初始计算图，所述初始计算图包括属于一个计算任务的多个任务流，每个任务流包含多个顺序执行的运算逻辑节点和内存释放逻辑节点；

节点关系分析步骤，遍历所述计算图中将被针对的所有张量，判断首次针对第一张量的第一节点和针对第一张量的第二节点所属的任务流是否相同以及第二节点是否为最后一个针对第一张量的节点；

冲突消除步骤，在节点关系分析组件确定第一节点属于第一任务流而第二节点属于不同于第一任务流的任务流时，在第二节点之前生成标记第一任务流的等待节点，以及在第二节点为最后一个针对第一张量的节点时，在紧接着所述第二节点之后生成标记第一任务流的内存释放节点，从而获得结果计算图。

6.根据权利要求5所述的用于多流并行的冲突处理方法，其中所述节点关系分析步骤还确定第二节点是否为最后一个针对第一张量的节点，以及所述冲突消除步骤还在第二节点是最后一个针对第一张量的节点时，将紧接着所述第二节点之后的针对第一张量的内存释放节点修改为属于第一任务流的针对第一张量的内存释放节点。

7.根据权利要求5或6所述的用于多流并行的冲突处理方法，还包括：

节点生成统计步骤，统计冲突消除步骤所生成的等待节点和内存释放节点的数量；以及

循环判断步骤，在节点生成统计步骤统计结果为零时，判断冲突消除完成，以及在节点生成统计组件统计结果不为零时，将当前的结果计算图作为初始计算图重复初始计算图获取步骤、节点关系分析步骤以及冲突消除步骤。

8.根据权利要求7所述的用于多流并行的冲突处理方法，其中所述运算逻辑节点包括计算逻辑节点和传输逻辑节点。