[发明专利]基于视频图像识别的并发请求的处理方法及存储介质

权利要求书

1.一种基于视频图像识别的并发请求的处理方法，其特征在于，所述方法包括：

根据GPU服务器的剩余处理能力批量分摊并发的基于视频图像识别的请求；

将批量分摊的所述请求以请求队列的方式发送至对应的GPU服务器，以便所述GPU服务器采用检测模型对批量分摊的所述请求进行批量检测，获得批量检测结果。

2.根据权利要求1所述的方法，其特征在于，根据GPU服务器的剩余处理能力批量分摊并发的基于视频图像识别的请求，包括：

以消息队列的方式批量获取基于视频图像识别的请求，并将获取的所述请求批量分摊至具有剩余处理能力的所述GPU服务器。

3.根据权利要求2所述的方法，其特征在于，根据GPU服务器的剩余处理能力批量分摊并发的基于视频图像识别的请求，包括：

将并发的基于视频图像识别的请求根据GPU服务器的数量进行批量分摊；

根据批量分摊的所述请求的大小、GPU服务器并行的检测数目和检测速度判断批量分摊的所述请求是否超过GPU服务器并发处理速度；

将批量分摊的所述请求以请求队列的方式发送至对应的GPU服务器，包括：

当批量分摊的所述请求未超过某个GPU服务器的并发处理速度，则将批量分摊的所述请求分摊至该GPU服务器。

4.根据权利要求3所述的方法，其特征在于，还包括：

当批量分摊的所述请求超过某个GPU服务器的并发处理速度，则拒绝或延时将批量分摊的所述请求分摊至该GPU服务器。

5.根据权利要求3所述的方法，其特征在于，通过以下表达式判断批量分摊的所述请求是否超过所述GPU服务器并发处理速度：

B×M×VN，则批量分摊的所述请求超过某个GPU服务器的并发处理速度；

B×M×V≤N，则批量获取的所述请求未超过某个所述GPU服务器的并发处理速度；

其中，所述GPU服务器的并发需求为N次/s，批量分摊的请求的大小为B，所述GPU服务器并行的检测数目为M，所述GPU服务器的检测速度为V次/s。

6.根据权利要求1所述的方法，其特征在于，将批量分摊的所述请求以请求队列的方式发送至对应的GPU服务器，包括：

将每个所述请求进行标记；

将标记后的所述请求以请求队列的方式发送至对应的GPU服务器，以使所述GPU服务器获得批量检测结果，根据标记将批量检测结果反馈至对应的请求所属的终端。

7.一种基于视频图像识别的并发请求的处理方法，其特征在于，应用于GPU服务器，所述方法包括：

获得批量分摊的基于视频图像识别的请求；

采用检测模型对批量分摊的请求进行批量检测，以得到批量检测结果；其中，每个GPU服务器根据其剩余处理能力获取的所述请求。

8.根据权利要求7所述的方法，其特征在于，所述批量分摊的请求中包括每个请求对应的标记；所述方法还包括：

根据标记将批量检测结果反馈至对应的请求所属的终端。

9.根据权利要求7所述的方法，其特征在于，所述方法还包括：

将每个所述请求进行标记；

在得到所述批量检测结果后，根据标记将批量检测结果反馈至对应的请求所属的终端。

10.一种存储介质，其上存储有计算机程序，其特征在于，该计算机程序被处理器执行时，实现如权利要求1-9任意一项所述的方法。