[发明专利]一种调度GPU的方法及相关装置

说明书

本发明实施例公开了一种调度GPU的方法，用于使任务调度更加合理高效。本发明实施例方法包括：接收图片识别请求，图片识别请求用于请求识别图片；通过调用系统函数Struct Task将图片识别请求进行转换，得到识别任务，并将识别任务放入任务队列，任务队列用于缓存识别任务；通过while循环从任务队列中取出当前识别任务；通过调用系统API函数EnumNvidiaDisplayHandle获取系统GPU的数量；通过调用系统API函数GPU_GetUsages获取各系统GPU的使用率；根据各系统GPU的使用率，确定使用率最小的系统GPU，并将当前识别任务分配给使用率最小的系统GPU执行。

技术领域

本发明涉及开发平台领域，尤其涉及一种调度GPU的方法及相关装置。

背景技术

对于直播平台来说，需要对直播平台所直播的内容进行审核，以确认直播的内容是正规合法的内容，而不能是色情直播。现有技术中，确认直播的内容是否正规合法，可以通过鉴黄服务框架的机器来进行识别。而实际应用中，对于鉴黄服务框架来说，由于直播间数量比较多，那么对于一台识别服务化的机器则满足不了线上的需求，因此需要有多台识别机器。

因此，如何更有效率的调度该多台识别机器以提高调度效率，是现在急需解决的问题。

发明内容

本发明实施例提供了一种调度GPU的方法，用于使任务调度更加合理高效。

本发明实施例的第一方面提供了一种调度GPU的方法，包括：接收图片识别请求，所述图片识别请求用于请求识别图片；通过调用系统函数Struct Task将所述图片识别请求进行转换，得到识别任务，并将所述识别任务放入任务队列，所述任务队列用于缓存识别任务；通过while循环从所述任务队列中取出当前识别任务；通过调用系统API函数EnumNvidiaDisplayHandle获取系统GPU的数量；通过调用系统API函数GPU_GetUsages获取所述各系统GPU的使用率；根据所述各系统GPU的使用率，确定使用率最小的系统GPU，并将所述当前识别任务分配给所述使用率最小的系统GPU执行。

在一种可能的实施例中，所述通过while循环从所述任务队列中取出当前识别任务包括：创建线程对象Tread tread；通过函数thread(boost::bind(&Run,NULL))将所述线程对象绑定执行函数，以使得所述线程对象执行所述执行函数，所述Run函数为所述执行函数，所述执行函数用于从所述任务队列中取出所述当前识别函数；基于所述while循环，通过所述执行函数中的函数Task t＝ReadTask()从所述任务队列中取出所述当前识别任务，所述t用于表示所述当前识别任务。

在一种可能的实施例中，所述通过调用系统API函数EnumNvidiaDisplayHandle获取系统GPU的数量包括：通过调用系统API函数EnumNvidiaDisplayHandle判断所述所有的系统GPU是否存在；若所述系统API函数EnumNvidiaDisplayHandle的返回值为NvStatus_OK，则所述系统GPU的数量增加1，直至通过if循环遍历完所述所有的系统GPU，所述if循环的返回值nCount为所述系统GPU的数量。

在一种可能的实施例中，所述通过调用系统API函数GPU_GetUsages获取所述各系统GPU的使用率包括：通过for循环函数for(nNo＝0；nNo<nCount,++nNo)遍历所有系统GPU的句柄，所述nNo为遍历的系统GPU的起始下标，所述nCount为所有系统GPU的数量；基于所述for循环函数，通过调用系统API函数GPU_GetUsages获取所述各系统GPU的使用率。