[发明专利]基于视频图像识别的并发请求的处理方法及存储介质

说明书

本公开涉及图像处理技术领域，具体涉及一种基于视频图像识别的并发请求的处理方法及存储介质，用于解决相关技术中并发请求所需的GPU资源利用率很低的技术问题。所述基于视频图像识别的并发请求的处理方法包括：根据GPU服务器的剩余处理能力批量分摊并发的基于视频图像识别的请求；将批量分摊的所述请求以请求队列的方式发送至对应的GPU服务器，以便所述GPU服务器采用检测模型对批量分摊的所述请求进行批量检测，获得批量检测结果。

技术领域

本公开涉及图像处理技术领域，特别地涉及一种基于视频图像识别的并发请求的处理方法及存储介质。

背景技术

随着基于深度学习的智能算法的快速发展，深度学习的智能算法在各个领域得到了广泛应用。在生产制造领域，基于深度学习的图像检测方法也得到极大地发展，例如：零部件的种类识别、箱体上的文字识别、生产场景识别、动作识别等。这类检测对实时性的要求很高，以产线行为识别为例，需要实时检测出产线工人的工艺动作，及时反馈可能出现的质量或安全隐患，而为达到足够快的检测速度，每个检测点都需要分配一定的GPU(GraphicProcessing Unit；图形处理器)资源。

发明内容

本公开提供一种并发请求的处理方法及存储介质，以解决相关技术中基于视频图像识别的并发请求所需的GPU资源利用率很低的技术问题。

为实现上述目的，本公开实施例的第一方面，提供一种基于视频图像识别的并发请求的处理方法，所述方法包括：

根据GPU服务器的剩余处理能力批量分摊并发的基于视频图像识别的请求；

将批量分摊的所述请求以请求队列的方式发送至对应的GPU服务器，以便所述GPU服务器采用检测模型对批量分摊的所述请求进行批量检测，获得批量检测结果。

可选地，根据GPU服务器的剩余处理能力批量分摊并发的基于视频图像识别的请求，包括：

以消息队列的方式批量获取基于视频图像识别的请求，并将获取的所述请求批量分摊至具有剩余处理能力的所述GPU服务器。

可选地，根据GPU服务器的剩余处理能力批量分摊并发的基于视频图像识别的请求，包括：

将并发的基于视频图像识别的请求根据GPU服务器的数量进行批量分摊；

根据批量分摊的所述请求的大小、GPU服务器并行的检测数目和检测速度判断批量分摊的所述请求是否超过GPU服务器并发处理速度；

将批量分摊的所述请求以请求队列的方式发送至对应的GPU服务器，包括：

当批量分摊的所述请求未超过某个GPU服务器的并发处理速度，则将批量分摊的所述请求分摊至该GPU服务器。

可选地，还包括：

当批量分摊的所述请求超过某个GPU服务器的并发处理速度，则拒绝或延时将批量分摊的所述请求分摊至该GPU服务器。

可选地，通过以下表达式判断批量分摊的所述请求是否超过所述GPU服务器并发处理速度：

B×M×VN，则批量分摊的所述请求超过某个GPU服务器的并发处理速度；

B×M×V≤N，则批量获取的所述请求未超过某个所述GPU服务器的并发处理速度；

其中，所述GPU服务器的并发需求为N次/s，批量分摊的请求的大小为B，所述GPU服务器并行的检测数目为M，所述GPU服务器的检测速度为V次/s。

可选地，将批量分摊的所述请求以请求队列的方式发送至对应的GPU服务器，包括：

将每个所述请求进行标记；