[发明专利]任务处理方法及设备

权利要求书

1.一种任务处理方法，其特征在于，包括：

接收AI任务；

获取所述AI任务对应的负载队列；

比较所述AI任务的优先级和正在处理的其他AI任务的优先级，确定执行顺序；

根据所述执行顺序，将所述负载队列插入原始负载矩阵，得到目标负载矩阵，所述原始负载矩阵包括所述正在处理的其他AI任务对应的负载队列，并且所述正在处理的其他AI任务对应的负载队列按照所述正在处理的其他AI任务的执行顺序逐行排列；

根据所述目标负载矩阵，获取待处理负载队列，所述待处理负载队列包括不同AI任务对应的负载；

根据所述待处理负载队列中各负载和计算单元的对应关系，将各负载发送给对应的计算单元进行并行处理。

2.根据权利要求1所述的方法，其特征在于，所述获取所述AI任务对应的负载队列，包括：

对所述AI任务对应的模型进行编译，得到至少一个负载；

根据所述至少一个负载，获取所述负载队列。

3.根据权利要求1所述的方法，其特征在于，所述根据所述目标负载矩阵，获取待处理负载队列，包括：

从所述目标负载矩阵中逐行按照负载依赖关系提取待处理负载，得到每行负载队列对应的待处理负载；

根据每行负载队列对应的待处理负载，获取所述待处理负载队列。

4.一种任务处理装置，其特征在于，包括：

接收模块，用于接收AI任务；

调度模块，用于获取所述AI任务对应的负载队列；根据所述AI任务的优先级，确定所述AI任务和正在处理的其他AI任务的执行顺序；根据所述执行顺序和所述负载队列，获取待处理负载队列，所述待处理负载队列包括不同AI任务对应的负载；处理所述待处理负载队列中的负载；

所述调度模块，具体用于：比较所述AI任务的优先级和所述正在处理的其他AI任务的优先级，确定所述执行顺序；

根据所述执行顺序，将所述负载队列插入原始负载矩阵，得到目标负载矩阵，所述原始负载矩阵包括所述正在处理的其他AI任务对应的负载队列，并且所述正在处理的其他AI任务对应的负载队列按照所述正在处理的其他AI任务的执行顺序逐行排列；

根据所述目标负载矩阵，获取待处理负载队列；

根据所述待处理负载队列中各负载和计算单元的对应关系，将各负载发送给对应的计算单元进行并行处理。

5.一种计算机可读存储介质，其上存储有计算机程序，其特征在于，所述计算机程序被处理器执行时实现权利要求1-3任一项所述的方法。

6.一种芯片，其特征在于，包括：

处理器；以及

存储器，用于存储所述处理器的可执行指令；

其中，所述处理器配置为经由执行所述可执行指令来实现权利要求1-3任一项所述的方法。

7.一种终端设备，其特征在于，包括权利要求6所述的芯片。