[发明专利]一种本地设备与异构设备之间的通信方法、系统及相关装置

说明书

本申请提供一种本地设备与异构设备之间的通信方法，包括：接收异构设备的通信请求；为所述异构设备配置对应的独立MPI进程；在所述独立MPI进程内利用预设异构通信框架执行所述异构设备的第一内存与本地设备的第二内存之间的数据交互，以完成所述本地设备与所述异构设备之间的通信。本申请能够提高异构并行计算能力，显著增加了异构计算效率。本申请还提供一种本地设备与异构设备之间的通信系统、计算机可读存储介质和电子设备，具有上述有益效果。

技术领域

本申请涉及电子设备通信领域，特别涉及一种本地设备与异构设备之间的通信方法、系统及相关装置。

背景技术

随着人工智能、大数据等概念的兴起，传统以CPU作为计算单元的服务器，其计算能力已无法满足目前数据中心的计算需求，为了突破计算瓶颈，异构系统应运而生，所谓的异构，就是CPU、DSP、GPU、FPGA、ASIC等各种计算单元、使用不同的类型指令集、不同的体系架构的计算单元，组成一个混合的系统，即为异构计算。

在实际运用中，为缩减计算时间，应用程序往往使用异构系统进行多设备并行计算，但不同类设备间的通信由于采用的数据处理方式不同，数据难以兼容，造成多异构设备间的协作处理效率较低。

因此，如何提高异构设备间的高效通信是本领域技术人员亟需解决的技术问题。

发明内容

本申请的目的是提供一种本地设备与异构设备之间的通信方法、系统、计算机可读存储介质和电子设备，能够实现本地设备与异构设备之间的通信。

为解决上述技术问题，本申请提供一种本地设备与异构设备之间的通信方法，具体技术方案如下：

接收异构设备的通信请求；

为所述异构设备配置对应的独立MPI进程；

在所述独立MPI进程内利用预设异构通信框架执行所述异构设备的第一内存与本地设备的第二内存之间的数据交互，以完成所述本地设备与所述异构设备之间的通信。

可选的，若所述预设异构通信框架包括OpenCL框架，则所述在所述独立MPI进程内利用预设异构通信框架执行所述异构设备的第一内存与本地设备的第二内存之间的数据交互包括：

利用所述OpenCL框架的缓冲区读取机制从所述异构设备的第一内存中读取待通信数据；

利用所述独立MPI进程在所述第二内存中执行所述待通信数据的进程间通信，得到通信响应数据；

将所述通信响应数据存储于本地设备的第二内存；

利用所述OpenCL框架的写缓冲区机制将所述通信响应数据从所述第二内存写入所述第一内存。

可选的，利用所述独立MPI进程在所述第二内存中执行所述待通信数据的进程间通信，得到通信响应数据包括：

在所述第二内存中将所述待通信数据由所述独立MPI进程切换至第二独立MPI进程处理，并在所述第二独立MPI进程中调用所述待通信数据所需的异构通信算子对所述待通信数据进行数据处理，得到通信响应数据。

可选的，在所述第二独立MPI进程中调用异构通信算子对所述待通信数据进行数据处理之前，还包括：

利用Cmake编译工具编译并封装所述异构通信算子；

其中，所述异构通信算子包括Heter_Send、Heter_Recv、Heter_Broadcast、Heter_Scatter、Heter_Gather、Heter_Reduce、Heter_Allreduce、Heter_Allgather中一种或任意几种的组合。

可选的，利用Cmake编译工具编译并封装所述异构通信算子之后，还包括：