[发明专利]用于集群通信的拓扑感知多阶段方法

权利要求书

1.一种由第一计算节点实施的方法，包括：

根据第一集群通信算法在所述第一计算节点中的第一处理单元集合之间执行归约散布子运算；

根据第二集群通信算法在所述第一计算节点中的所述第一处理单元集合与第二计算节点中的第二处理单元集合之间执行全局归约子运算；以及

根据所述第一集群通信算法在所述第一计算节点中的所述第一处理单元集合之间执行全局聚集子运算。

2.根据权利要求1所述的方法，还包括：至少部分基于所述第一计算节点中的所述第一处理单元集合间的节点内连接的类型或带宽选择所述第一集群通信算法。

3.根据权利要求1所述的方法，还包括：至少部分基于所述第一计算节点和其他计算节点之间的节点间连接的类型或带宽，和/或，所述第一计算节点和其他计算节点的连接拓扑来选择所述第二集群通信算法。

4.根据权利要求1所述的方法，其中所述第一集群通信算法包括基于环的算法，或减半加倍算法。

5.根据权利要求1所述的方法，其中根据第一集群通信算法在所述第一计算节点中的第一处理单元集合之间进行归约散布子运算包括：

将数据划分为多个数据块；

将所述多个数据块分配给所述第一处理单元集合；

根据所述第一集群通信算法，在所述第一处理单元集合的第一处理单元处从所述第一处理单元集合的第二处理单元接收数据块；以及

在所述第一处理单元处用本地数据块归约所接收的数据块。

6.根据权利要求1所述的方法，其中根据第二集群通信算法在所述第一计算节点中的所述第一处理单元集合与第二计算节点中的第二处理单元集合之间执行全局归约子运算包括：

所述第一处理单元集合接收所述第二计算节点中的所述第二处理单元集合根据所述第二集群通信算法所获得的归约散布结果的各部分，其中所述第一处理单元集合的每个处理单元与所述第二处理单元集合的相应处理单元形成组，并从所述相应处理单元接收所述归约散布结果的相应部分；以及

所述第一处理单元集合通过在所述第一处理单元集合之间执行所述归约散布子运算后获得的归约散布结果的对应本地部分对所述归约散布结果的各部分执行归约。

7.根据权利要求1所述的方法，其中根据第一集群通信算法在所述第一计算节点中的第一处理单元集合之间执行全局聚集子运算包括：

根据所述第一集群通信算法，在所述第一处理单元集合的第一处理单元处从所述第一处理单元集合的第二处理单元接收数据块；以及

在所述第一处理单元处用本地数据块归约所接收的数据块。

8.一个或多个机器可读介质，存储有机器可读指令，所述机器可读指令被第一计算节点执行时使得所述第一计算节点执行动作，包括：

根据第一集群通信算法在所述第一计算节点中的第一处理单元集合之间执行归约散布子运算；

根据第二集群通信算法在所述第一计算节点中的所述第一处理单元集合与第二计算节点中的第二处理单元集合之间执行全局归约子运算；以及

根据所述第一集群通信算法在所述第一计算节点中的所述第一处理单元集合之间执行全局聚集子运算。

9.根据权利要求8所述的一个或多个机器可读介质，所述动作还包括：至少部分基于所述第一计算节点中的所述第一处理单元集合间的节点内连接的类型或带宽选择所述第一集群通信算法。

10.根据权利要求8所述的一个或多个机器可读介质，所述动作还包括：至少部分基于所述第一计算节点和其他计算节点之间的节点间连接的类型或带宽，和/或，所述第一计算节点和其他计算节点的连接拓扑来选择所述第二集群通信算法。

11.根据权利要求8所述的一个或多个机器可读介质，其中所述第一集群通信算法包括基于环的算法，或减半加倍算法。