[发明专利]一种GPU共享控制方法、GPU共享控制装置及存储介质

权利要求书

1.一种GPU共享控制方法，其特征在于，所述方法包括：

响应于各深度学习任务的启动，将各所述深度学习任务分为主任务或次任务，所述主任务的数量不大于一个；

确定各所述深度学习任务的运行阶段信息，所述运行阶段信息分为占用GPU运行阶段和不占用GPU运行阶段；

判断所述主任务是否处于占用GPU运行阶段；

当所述主任务处于占用GPU运行阶段，控制所述GPU运行所述主任务；

当所述主任务不处于占用GPU运行阶段，控制所述GPU运行所述次任务。

2.根据权利要求1所述的方法，其特征在于，当所述次任务包括多个时，所述控制所述GPU运行所述次任务，包括：

根据各所述次任务占用GPU运行阶段的先后确定顺序，确定所述GPU控制运行的第一次任务，所述第一次任务为最先获取到且处于占用GPU运行阶段的次任务；

控制所述GPU运行所述第一次任务。

3.根据权利要求1或2所述的方法，其特征在于，所述方法还包括：

根据深度学习任务需要占用GPU算力的运行过程，将所述深度学习任务划分为多个运行阶段；

针对不同运行阶段，对应设置不同运行阶段的阶段标志信号，所述阶段标志信号用于确定所述深度学习任务的运行阶段信息；

在确定各所述深度学习任务的运行阶段信息之前，所述方法还包括：

获取各所述深度学习任务的阶段标志信号。

4.根据权利要求3所述的方法，其特征在于，所述当所述主任务处于占用GPU运行阶段，控制所述GPU运行所述主任务，包括：

判断所述GPU当前是否运行次任务；

若所述GPU当前未运行次任务，则控制所述GPU运行所述主任务；

若所述GPU当前运行次任务，则通过控制所述GPU上处于运行状态的次任务的操作符分发频率，暂停所述处于运行状态的次任务，并控制所述GPU运行所述主任务。

5.根据权利要求1所述的方法，其特征在于，所述方法还包括：

当所述主任务或者所述次任务运行完成，删除所述主任务或者所述次任务的运行阶段信息。

6.根据权利要求1或5所述的方法，其特征在于，若所述主任务的数量为零，则所述方法还包括：

根据确定各所述次任务处于占用GPU运行阶段的时间顺序，控制所述GPU依序运行各所述次任务。

7.根据权利要求1所述的方法，其特征在于，所述占用GPU运行阶段包括：前向传播和反向传播阶段、或者更新阶段；所述不占用GPU运行阶段包括：准备阶段或者归约阶段。

8.一种GPU共享控制装置，其特征在于，所述装置包括：

分类单元，用于响应于各深度学习任务的启动，将各所述深度学习任务分为主任务或次任务，所述主任务的数量不大于一个；

确定单元，用于各所述深度学习任务的运行阶段信息，所述运行阶段信息分为占用GPU运行阶段和不占用GPU运行阶段；

判断单元，判断所述主任务是否处于占用GPU运行阶段；

第一控制单元，用于当所述主任务处于占用GPU运行阶段，控制所述GPU运行所述主任务；

第二控制单元，用于当所述主任务不处于占用GPU运行阶段，控制所述GPU运行所述次任务。

9.一种计算机设备，其特征在于，包括存储器和处理器，所述存储器和所述处理器之间互相通信连接，所述存储器中存储有计算机指令，所述处理器通过执行所述计算机指令，从而执行权利要求1-7中任一项所述的GPU共享控制方法。

10.一种计算机可读存储介质，其特征在于，所述计算机可读存储介质存储有计算机指令，所述计算机指令用于使所述计算机执行权利要求1-7中任一项所述的GPU共享控制方法。