[发明专利]调度方法及相关装置

说明书

本申请实施例公开了一种调度方法及相关装置，其中方法基于包含多个计算装置的服务器，包括：接收M个运算请求；根据所述M个运算请求中每一运算请求的运算任务从所述多个计算装置中选取至少一个目标计算装置，并确定所述至少一个目标计算装置中每一目标计算装置对应的运算指令；根据所述至少一个目标计算装置中每一目标计算装置对应的运算指令对所述M个运算请求对应的运算数据进行计算，得到M个最终运算结果；将所述M个最终运算结果中每一最终运算结果发送至对应的电子设备。本申请实施例，可选取与服务器中接收到的运算请求对应的计算装置进行运算，提高了服务器的运行效率。

技术领域

本申请涉及计算机技术领域，具体涉及一种调度方法及相关装置。

背景技术

神经网络是目前许多人工智能应用的基础，随着神经网络的应用范围的进一步扩大，采用服务器或云计算服务对各种各样的神经网络模型进行存储，并针对用户提交的运算请求进行运算。面对众多的神经网络模型和大批量的请求，如何提高服务器的运算效率是本领域技术人员待解决的技术问题。

发明内容

本申请实施例提出了一种调度方法及相关装置，可选取与服务器中接收到的运算请求对应的计算装置进行运算，提高了服务器的运行效率。

第一方面，本申请实施例提供了一种调度方法，基于多个计算装置的服务器，所述方法包括：

接收M个运算请求，所述M为正整数；

从所述多个计算装置中选取与所述M个运算请求对应的至少一个目标计算装置；

基于所述至少一个目标计算装置中每一目标计算装置执行对应的运算请求的运算，得到M个最终运算结果；

将所述M个最终运算结果中每一最终运算结果发送至对应的电子设备。

第二方面，本申请实施例提供了一种服务器，所述服务器包括多个计算装置，其中：

接收单元，用于接收M个运算请求；

调度单元，用于从所述多个计算装置中选取与所述M个运算请求对应的至少一个目标计算装置；

运算单元，用于基于所述至少一个目标计算装置中每一目标计算装置执行对应的运算请求的运算，得到M个最终运算结果；

发送单元，用于将所述M个最终运算结果中每一最终运算结果发送至对应的电子设备。

第三方面，本申请实施例提供了另一种服务器，包括处理器、存储器、通信接口以及一个或多个程序，其中，所述一个或多个程序被存储在所述存储器中，并且被配置由所述处理器执行，所述程序包括用于如第一方面中所描述的部分或全部步骤的指令。

第四方面，本申请实施例提供了一种计算机可读存储介质，所述计算机存储介质存储有计算机程序，所述计算机程序包括程序指令，所述程序指令当被处理器执行时使所述处理器执行上述第一方面的方法。

采用了上述的调度方法及相关装置之后，基于接收到的运算请求从服务器中包括的M个多个计算装置中选取执行M个运算请求的目标计算装置，并基于目标计算装置根据其对应的运算请求进行运算，并将每一运算请求对应的最终运算结果发送至对应的电子设备，即根据运算请求统一分配计算资源，以使服务器中的多个计算装置进行有效地协作，从而提高服务器的运算效率。

附图说明

为了更清楚地说明本申请实施例或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图是本申请的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。

其中：

图1是本申请实施例提供的一种服务器的结构示意图；