[发明专利]在构成网络的多个节点（处理器）之间，对包含多对多通信的多个计算处理进行调度的方法、程序和并行计算机系统

权利要求书

1.一种调度方法，用于在n维的轴上构成取决于该维数的形状的(环形或网状)网络的多个节点(处理器)之间，对包含多对多通信的多个计算处理进行调度，其中n＞2，该调度方法具有：

将包含最长的轴的组(如果最长的轴为1个则为轴状，除此以外的情况下取决于将最长的轴的数作为维数的形状)内的多个节点选择为第1部分组的步骤；

提供用于仅对该第1部分组内包含的多个节点之间的多对多通信进行处理的第1通信阶段的步骤；

将包含最长的轴以外的其余全部轴的组内的多个节点选择为第2部分组的步骤；

提供用于仅对该第2部分组内包含的多个节点之间的多对多通信进行处理的第2通信阶段(A2A-P)的步骤；以及

对多个计算处理进行调度，以使第1通信阶段(A2A-L)和第2通信阶段(A2A-P)能够在节点内并行地处理(流水线处理)(重叠进行)，并且能够等待第1部分组中的全部多对多通信完成后进入下面的处理的步骤。

2.一种调度方法，用于在3维的轴上构成立方体形状或非立方体形状的(环形或网状)网络的多个节点(处理器)之间，对包含多对多通信的多个计算处理进行调度，该调度方法具有：

将包含最长的轴的组(如果最长的轴为1个则为轴状，除此以外的情况下为平面状)内的多个节点选择为第1部分组的步骤；

提供用于仅对该第1部分组内包含的多个节点之间的多对多通信进行处理的第1通信阶段的步骤；

将包含最长的轴以外的其余全部轴的组内的多个节点选择为第2部分组的步骤；

提供用于仅对该第2部分组内包含的多个节点之间的多对多通信进行处理的第2通信阶段的步骤；以及

对多个计算处理进行调度，以使第1通信阶段和第2通信阶段能够在节点内并行地处理(流水线处理)(重叠进行)，并且能够等待第1部分组中的全部多对多通信结束后进入下面的处理的步骤。

3.如权利要求1或2所述的方法，

还具有在全部轴的长度相等的情况下进行调度，以将包含全部节点的组选择为第一组，顺序地执行第1部分组中的多对多通信的步骤。

4.如权利要求1或2所述的方法，

还具有进行调度，以使第1通信阶段的计算处理、FFT的计算处理或矩阵转置的计算处理能够进一步并行地处理(流水线处理)(被重叠)的步骤。

5.一种程序，用于在n维的轴上构成形状取决于该维数的(环形或网状)网络的多个节点(处理器)之间，对于单个或多个节点(处理器)，对包含多对多通信的多个计算处理进行调度并被执行，其中n＞2，所述程序具有：

执行将包含最长的轴的组(如果最长的轴为1个则为轴状，除此以外的情况下取决于以最长的轴的数作为维数的形状)内的多个节点选择为第1部分组的代码；

执行提供用于仅对该第1部分组内包含的多个节点之间的多对多通信进行处理的第1通信阶段的代码；

执行将包含最长的轴以外的其余全部轴的组内的多个节点选择为第2部分组的代码；

执行提供用于仅对该第2部分组内包含的多个节点之间的多对多通信进行处理的第2通信阶段的代码；以及

执行对多个计算处理进行调度，以使第1通信阶段和第2通信阶段能够在节点内并行地处理(流水线处理)(重叠进行)，并且能够等待第1部分组中的全部多对多通信完成后进行下面的处理的代码。

6.一种程序，用于在3维的轴上构成立方体和非立方体形状的(环形或网状)网络的多个节点(处理器)之间，对于单个或多个节点(处理器)，对包含多对多通信的多个计算处理进行调度并被执行，该程序具有：

执行将包含最长的轴的组(如果最长的轴为1个则为轴状，除此以外的情况下为平面状)内的多个节点选择为第1部分组的代码；

执行提供用于仅对该第1部分组内包含的多个节点之间的多对多通信进行处理的第1通信阶段的代码；

执行将包含最长的轴以外的其余全部轴的组内的多个节点选择为第2部分组的代码；

执行提供用于仅对该第2部分组内包含的多个节点之间的多对多通信进行处理的第2通信阶段的代码；以及

执行对多个计算处理进行调度，以使第1通信阶段和第2通信阶段能够在节点内并行地处理(流水线处理)(重叠进行)，并且能够等待第1部分组中的全部多对多通信完成后进行下面的处理的代码。