[发明专利]运算处理设备及其控制方法以及用于存储程序的存储介质

权利要求书

1.一种运算处理设备，包括：

能够彼此通信的多个节点(N个节点)，所述多个节点中的每个节点包括存储器和处理器，所述存储器被配置成存储值和使用所述值进行的操作结果，所述处理器被配置成当N为2或大于2的自然数、n为1或大于1的自然数并且N≠2ⁿ时执行第一处理，

其中，所述第一处理被配置成：

将由第一节点保存的值除以2，所述第一节点是所述多个节点中的任意节点和按照计数顺序的最后一个节点，

通过将所述多个节点中除所述第一节点以外的剩余节点进行配对来获得一个或更多个节点对，以及

重复地计算由所述一个或更多个节点对中的每个节点对保存的值的平均值。

2.根据权利要求1所述的运算处理设备，其中，

所述第一处理被配置成：

当N＝2^p+1+1并且p为满足2^p-1N2^p的自然数时，通过将由所述第一节点保存的值除以2来获得操作结果，

当所述操作结果为奇数时，执行第二处理，所述第二处理被配置成使得以先前最后一个操作结果作为第一的顺序将由所述第一节点保存的值除以2，所述第二处理还被配置成使得执行先前第一操作结果和随后的操作结果的平均操作并且此后按照先前操作结果的顺序执行两个连续操作结果的平均操作，以及

当所述操作结果为偶数时，执行第三处理，所述第三处理被配置成使得执行先前第一操作结果和随后的操作结果的平均操作并且此后按照先前操作结果的顺序执行两个连续操作结果的平均操作。

3.根据权利要求1所述的运算处理设备，其中，

当N＝2^p-1并且p为满足2^p-1N2^p的自然数时，

首先使用顺序为按照计数顺序的最后一个节点，并且将由所述节点保存的值除以2，

执行先前第一操作结果和随后的操作结果的平均操作，并且

此后，按照先前操作结果的顺序执行两个连续操作结果的平均操作。

4.根据权利要求1所述的运算处理设备，其中，

所述多个节点中的每个节点被配置成执行Allreduce处理以及根据下面的等式(2)执行平均处理

5.一种用于存储使计算机执行处理的程序的非暂态计算机可读存储介质，所述计算机被提供有能够彼此通信的N个节点，所述处理包括：

当N为2或大于2的自然数、n为1或大于1的自然数并且N≠2ⁿ时执行第一处理，

其中，所述第一处理被配置成：

将由第一节点保存的值除以2，所述第一节点是所述多个节点中的任意节点和按照计数顺序的最后一个节点，

通过将所述多个节点中除所述第一节点以外的剩余节点进行配对来获得一个或更多个节点对，以及

重复地计算由所述一个或更多个节点对中的每个节点对保存的值的平均值。

6.一种运算处理设备的控制方法，其中，能够彼此通信的N个节点中的每个节点被配置成执行操作并且保存值和使用所述值进行的操作结果，所述方法包括：

当N为2或大于2的自然数、n为1或大于1的自然数并且N≠2ⁿ时执行第一处理，

其中，所述第一处理被配置成：

将由第一节点保存的值除以2，所述第一节点是所述多个节点中的任意节点和按照计数顺序的最后一个节点，

通过将所述多个节点中除所述第一节点以外的剩余节点进行配对来获得一个或更多个节点对，以及

重复地计算由所述一个或更多个节点对中的每个节点对保存的值的平均值。