[发明专利]虚拟化环境下基于OpenMP的多GPU协同计算方法

摘要

本发明公开了一种虚拟化环境下基于OpenMP的多GPU协同计算方法，包括以下步骤：用OpenMP在主机端开设和GPU个数相同的主机端线程，每个主机端线程负责控制一个GPU,在每个设备上为每个线程分配显存，并各自启动内核函数；每个线程设置自己私有主机端和设备的数据指针，数据计算,数据合并,将数据通过GPU私有的设备端数据指针拷贝回私有主机端，在私有主机端进行数据合并，与现有技术相比，本发明在虚拟化环境下实现多GPU协同计算，利用多GPU对单任务进行加速，对基于CPU+GPU异构平台的超级计算、云计算以及网格计算具有重大的理论和现实意义。

主权项

虚拟化环境下基于OpenMP的多GPU协同计算方法，其特征在于：包括以下步骤， 步骤S01, 在服务端部署GPU虚拟化服务端组件，将在客户端拦截的参数在本地执行，即在物理机上执行，物理机通过OpenMP在主机端开设和GPU个数相同的主机端线程，每个主机端线程负责控制一个GPU, 通过编程接口函数将主机端线程的ID号同GPU的设备号对应，将GPU计算的对象定义为N*N矩阵计算;步骤S02，在每个设备上为每个线程分配显存，并分别启动内核函数；步骤S03，数据分解, 每个线程设置自己私有主机端和设备的数据指针，私有主机端线程指向原始指针不同的起始位置, 并通过CUDA复制函数从自己私有主机端线程的位置拷贝N/n个数据达到规模划分的目的,其中N为矩阵的行数，n为GPU的个数；步骤S04，数据计算,根据矩阵相乘法则对n个GPU的矩阵进行计算，OpenMP控制所述GPU计算结果的输出时间，同步输出数据；步骤S05，数据合并, 所述步骤S04中同步数据的数据通过GPU私有的设备端数据指针拷贝回私有主机端，在私有主机端进行数据合并，服务端完成计算后通过socket通信，将计算结果传递给客户端。