[发明专利]模型验证方法、装置及电子设备

权利要求书

1.一种模型验证方法，其特征在于，该方法包括：

接收针对第一模型的模型验证任务；

在当前所有进程中查找满足如下第一条件的进程：该进程为针对第一模型的模型验证进程、且该进程仍能被调度任务；

判断是否查找到，若查找到，则将针对第一模型的模型验证任务调度到该进程上。

2.根据权利要求1所述的方法，其特征在于，所述判断是否查找到之后进一步包括：

若未查找到，则计算加载第一模型所需的算力大小，并在已申请到的用于模型验证的图形处理单元卡中，查找满足如下第二条件的图形处理单元卡：图形处理单元卡的空闲算力的大小不小于所述加载第一模型所需的算力大小；

判断是否查找到满足第二条件的图形处理单元卡，若查找到，则将第一模型加载到查找到的图形处理单元卡上进行模型验证。

3.根据权利要求2所述的方法，其特征在于，所述判断是否查找到满足第二条件的图形处理单元卡之后进一步包括：

若未查找到，则向图形处理单元资源池申请用于模型验证的图形处理单元卡；

判断是否申请到，若申请到，则创建进程，并将第一模型加载到申请到的图形处理单元卡上，采用该进程对第一模型进行模型验证。

4.根据权利要求3所述的方法，其特征在于，所述判断是否申请到之后进一步包括：

若未申请到，则在已申请到的用于模型验证的各图形处理单元卡中，查找满足如下第三条件的图形处理单元卡：假设将该图形处理单元卡上的一个或多个进程关闭后，该图形处理单元卡的空闲算力的大小不小于加载第一模型所需的算力大小；

判断是否查找到满足第三条件的图形处理单元卡，若查找到，则关闭查找到的图形处理单元卡上所述一个或多个进程，并将第一模型加载到该图形处理单元卡上进行模型验证。

5.根据权利要求1所述的方法，其特征在于，所述接收针对第一模型的模型验证任务之后、在当前所有进程中查找满足如下第一条件的进程之前进一步包括：

判断当前是否存在已申请到的用于模型验证的图形处理单元卡，若不存在，则向图形处理单元资源池申请用于模型验证的图形处理单元卡；若存在，执行所述在当前所有进程中查找满足如下第一条件的进程的动作。

6.根据权利要求1所述的方法，其特征在于，所述接收针对第一模型的模型验证任务之前进一步包括：

接收针对第一模型的模型训练请求，向图形处理单元资源池申请训练图形处理单元卡，申请到后，创建模型训练进程。

7.一种模型验证装置，其特征在于，该装置包括：

模型验证任务接收模块，用于接收针对第一模型的模型验证任务；

模型验证任务处理模块，用于在当前所有进程中查找满足如下第一条件的进程：该进程为针对第一模型的模型验证进程、且该进程仍能被调度任务；判断是否查找到，若查找到，则将针对第一模型的模型验证任务调度到该进程上。

8.根据权利要求7所述的装置，其特征在于，所述模型验证任务处理模块判断是否查找到之后进一步用于：

若未查找到，则计算加载第一模型所需的算力大小，并在已申请到的用于模型验证的图形处理单元卡中，查找满足如下第二条件的图形处理单元卡：图形处理单元卡的空闲算力的大小不小于所述加载第一模型所需的算力大小；判断是否查找到满足第二条件的图形处理单元卡，若查找到，则将第一模型加载到查找到的图形处理单元卡上进行模型验证。

9.根据权利要求8所述的装置，其特征在于，所述模型验证任务处理模块判断是否查找到满足第二条件的图形处理单元卡之后进一步用于：

若未查找到，则向图形处理单元资源池申请用于模型验证的图形处理单元卡；判断是否申请到，若申请到，则创建进程，并将第一模型加载到申请到的图形处理单元卡上，采用该进程对第一模型进行模型验证。