[发明专利]任务执行方法、装置、存储介质及电子装置

说明书

本发明实施例提供了一种任务执行方法、装置、存储介质及电子装置，其中，该方法包括：基于目标模型在至少两个人工智能AI硬件单元上运行时的性能数据以及所述至少两个AI硬件单元的总负载，从所述至少两个AI硬件单元中确定出用于执行目标任务的目标AI硬件单元；利用所述目标AI硬件单元执行所述目标任务。通过本发明，解决了相关技术中存在的AI计算资源分配调度不合理的问题，达到合理分配调度AI计算资源的效果。

技术领域

本发明实施例涉及通信领域，具体而言，涉及一种任务执行方法、装置、存储介质及电子装置。

背景技术

在边缘计算设备中存在多种AI计算单元，可以根据模型的复杂度分配不同的模型到指定的计算单元执行，复杂度高的在性能强的硬件上执行，复杂度低的在性能弱的硬件上执行，自动灵活的分配不同的模型到不同的计算单元上。

在相关技术中，调度策略的输入是静态的模型参数，而不是实际运行环境下的真实的模型性能参数。

由此可知，相关技术中存在AI计算资源分配调度不合理的问题。

针对相关技术中存在的上述问题，目前尚未提出有效的解决方案。

发明内容

本发明实施例提供了一种任务执行方法、装置、存储介质及电子装置，以至少解决相关技术中存在的AI计算资源分配调度不合理的问题。

根据本发明的一个实施例，提供了一种任务执行方法，包括：基于目标模型在至少两个人工智能AI硬件单元上运行时的性能数据以及所述至少两个AI硬件单元的总负载，从所述至少两个AI硬件单元中确定出用于执行目标任务的目标AI硬件单元；利用所述目标AI硬件单元执行所述目标任务。

根据本发明的另一个实施例，提供了一种任务执行装置，包括：第一确定模块，用于基于目标模型在至少两个人工智能AI硬件单元上运行时的性能数据以及所述至少两个AI硬件单元的总负载，从所述至少两个AI硬件单元中确定出用于执行目标任务的目标AI硬件单元；执行模块，用于利用所述目标AI硬件单元执行所述目标任务。

根据本发明的又一个实施例，还提供了一种计算机可读存储介质，所述计算机可读存储介质中存储有计算机程序，其中，所述计算机程序被设置为运行时执行上述任一项方法实施例中的步骤。

根据本发明的又一个实施例，还提供了一种电子装置，包括存储器和处理器，所述存储器中存储有计算机程序，所述处理器被设置为运行所述计算机程序以执行上述任一项方法实施例中的步骤。

通过本发明，根据目标模型在多个AI硬件单元上运行时的性能数据及其总负载，确定出多个AI硬件单元中用于执行目标任务的目标AI硬件单元，利用目标AI硬件单元执行目标任务，由于根据目标模型在实际环境中的运行性能参数以及各AI资源总负载情况，对模型进行不同的计算资源调度分配，因此，可以解决相关技术中存在的AI计算资源分配调度不合理的问题，达到合理分配调度AI计算资源的效果。

附图说明

图1是本发明实施例的一种任务执行方法的移动终端的硬件结构框图；

图2是根据本发明实施例的任务执行方法的流程图；

图3是根据本发明具体实施例的任务执行方法模型初始阶段的流程图；

图4是根据本发明具体实施例的任务执行方法模型实际运行阶段的流程图；

图5是根据本发明实施例的任务执行装置的结构框图一；

图6是根据本发明实施例的任务执行装置的结构框图二。

具体实施方式

下文中将参考附图并结合实施例来详细说明本发明的实施例。