[发明专利]一种基于单GPU卡的图像并发处理方法、装置及系统

权利要求书

1.一种基于单GPU卡的图像并发处理方法，其特征在于，所述方法包括：

接收用户提交的任务，其中所述任务为用户根据待处理的对象和处理需求建立的任务；

将所述任务加入到任务队列，并为所述任务配置与之对应的任务线程；

将配置好的任务线程按序加入到线程池中，所述线程池中包含至少两个任务线程；

根据图形处理器GPU卡的内存和所述线程池中每一个任务线程执行时占用的内存，合理的从所述线程池中选取一个或多个任务线程提交至所述GPU卡，以便所述GPU卡对所述一个或多个任务线程并行处理。

2.根据权利要求1所述的方法，其特征在于，所述用户提交的任务包括至少一个。

3.根据权利要求1所述的方法，其特征在于，所述根据所述GPU卡的内存和所述任务线程执行时占用的内存，合理的从所述线程池中选取一个或多个任务线程提交至所述GPU卡之后，所述方法还包括：

接收所述GPU卡反馈的分别与所述一个或多个任务线程中每一个任务线程对应的响应信息，以便根据所述响应信息查询所述GPU卡处理所述一个或多个任务线程的进度。

4.根据权利要求3所述的方法，其特征在于，当根据所述响应信息确定所述GPU卡对所述一个或多个任务线程中的第一任务线程处理完成时，从所述GPU卡中读取处理结果，并删除与所述第一任务线程对应的任务，其中，所述第一任务线程为所述一个或多个任务线程中的任一个任务线程。

5.根据权利要求1或2所述的方法，其特征在于，所述根据图形处理器GPU卡的内存和所述线程池中每一个任务线程执行时占用的内存，合理的从所述线程池中选取一个或多个任务线程提交至所述GPU卡之前，所述方法还包括：

当确定所述一个或多个任务线程中第一任务线程存在前向依赖任务线程时，检测所述前向依赖线程是否执行完毕；

若所述前向依赖线程未执行完毕时，将所述第一任务线程加入到所述线程池的尾部排队，直至确定所述前向依赖任务线程执行完毕后，再按序将所述第一任务线程提交至所述GPU卡；

并且，重新从所述线程池中按序再次选取一个任务线程提交至所述GPU卡，所述第一任务线程为所述一个或多个任务线程中任一个任务线程。

6.一种基于单GPU卡的图像并发处理装置，其特征在于，所述装置包括：

接收单元，用于接收用户提交的任务，其中所述任务为用户根据待处理的对象和处理需求建立的任务；

配置单元，用于将所述任务加入到任务队列，并为所述任务配置与之对应的任务线程；

处理单元，用于将配置好的任务线程按序加入到线程池中，所述线程池中包含至少两个任务线程；

根据图形处理器GPU卡的内存和所述线程池中每一个任务线程执行时占用的内存，合理的从所述线程池中选取一个或多个任务线程提交至所述GPU卡，以便所述GPU卡对所述一个或多个任务线程并行处理。

7.根据权利要求6所述的装置，其特征在于，所述接收单元还用于，接收所述GPU卡反馈的分别与所述一个或多个任务线程中每一个任务线程对应的响应信息，以便根据所述响应信息查询所述GPU卡处理所述一个或多个任务线程的进度；

所述处理单元还用于，当根据所述响应信息确定所述GPU卡对所述一个或多个任务线程中的第一任务线程处理完成时，从所述GPU卡中读取处理结果，并删除与所述第一任务线程对应的任务，其中，所述第一任务线程为所述一个或多个任务线程中的任一个任务线程。

8.根据权利要求6所述的装置，其特征在于，所述处理单元还用于，

当确定所述一个或多个任务线程中第一任务线程存在前向依赖任务线程时，检测所述前向依赖线程是否执行完毕；

若所述前向依赖线程未执行完毕时，将所述第一任务线程加入到所述线程池的尾部排队，直至确定所述前向依赖任务线程执行完毕后，再按序将所述第一任务线程提交至所述GPU卡；

并且，重新从所述线程池中按序再次选取一个任务线程提交至所述GPU卡，所述第一任务线程为所述一个或多个任务线程中任一个任务线程。