[发明专利]一种调度GPU的方法及相关装置

权利要求书

1.一种调度图形处理器GPU的方法，其特征在于，包括：

接收图片识别请求，所述图片识别请求用于请求识别图片；

通过调用系统函数Struct Task将所述图片识别请求进行转换，得到识别任务，并将所述识别任务放入任务队列，所述任务队列用于缓存识别任务；

通过while循环从所述任务队列中取出当前识别任务；

通过调用系统API函数EnumNvidiaDisplayHandle获取系统GPU的数量；

通过调用系统API函数GPU_GetUsages获取所述各系统GPU的使用率；

根据所述各系统GPU的使用率，确定使用率最小的系统GPU，并将所述当前识别任务分配给所述使用率最小的系统GPU执行。

2.根据权利要求1所述的方法，其特征在于，所述通过while循环从所述任务队列中取出当前识别任务包括：

创建线程对象Tread tread；

通过函数thread(boost::bind(&Run,NULL))将所述线程对象绑定执行函数，以使得所述线程对象执行所述执行函数，所述Run函数为所述执行函数，所述执行函数用于从所述任务队列中取出所述当前识别函数；

基于所述while循环，通过所述执行函数中的函数Task t＝ReadTask()从所述任务队列中取出所述当前识别任务，所述t用于表示所述当前识别任务。

3.根据权利要求1所述的方法，其特征在于，所述通过调用系统API函数EnumNvidiaDisplayHandle获取系统GPU的数量包括：

通过调用系统API函数EnumNvidiaDisplayHandle判断所述所有的系统GPU是否存在；

若所述系统API函数EnumNvidiaDisplayHandle的返回值为NvStatus_OK，则所述系统GPU的数量增加1，直至通过if循环遍历完所述所有的系统GPU，所述if循环的返回值nCount为所述系统GPU的数量。

4.根据权利要求1所述的方法，其特征在于，所述通过调用系统API函数GPU_GetUsages获取所述各系统GPU的使用率包括：

通过for循环函数for(nNo＝0；nNo<nCount,++nNo)遍历所有系统GPU的句柄，所述nNo为遍历的系统GPU的起始下标，所述nCount为所有系统GPU的数量；

基于所述for循环函数，通过调用系统API函数GPU_GetUsages获取所述各系统GPU的使用率。

5.根据权利要求1所述的方法，其特征在于，所述根据所述各系统GPU的使用率，确定使用率最小的系统GPU包括：

定义当前系统GPU的使用率为最小使用率nMinUsage，并将所述当前系统GPU初始化为第一个系统GPU；

通过for循环函数从第二个系统GPU开始遍历所述所有系统GPU；

若当前遍历的系统GPU的使用率小于所述最小使用率，则将所述当前遍历的系统GPU的使用率更新为所述最小使用率，并将所述当前遍历的系统GPU的编号作为最小系统GPU编号，直至遍历结束；

将遍历结束后的最小系统GPU编号对应的系统GPU确定为所述使用率最小的系统GPU。

6.根据权利要求1所述的方法，其特征在于，所述方法还包括：

定义存储接口和删除接口，所述存储接口用于在所述识别队列中插入任务，所述删除接口用于在所述识别队列中删除任务。

7.根据权利要求6所述的方法，其特征在于，所述主机器定义存储接口和删除接口包括：

所述主机器定义自动锁对象，所述自动锁对象用于进行多线程的同步互斥；

所述主机器将所述自动锁对象传入互斥变量wirte_mutex；

所述主机器调用接口push_back将所述任务存入到所述任务队列的尾端；

所述主机器取出所述任务队列的头端的任务；

所述主机器调用接口pop_front将所述任务队列的头端的任务删除。