[发明专利]一种分布式自主均衡人工智能任务调度方法及系统

权利要求书

1.一种分布式自主均衡人工智能任务调度方法，其特征在于，包括如下步骤：

(1)任务发布阶段

步骤S1：任务发布服务器接收任务并识别所述任务携带的描述信息，根据描述信息对所述任务配置任务属性，其中，所述任务属性记录符合该任务工作场景的算法执行流程；

步骤S2，所述任务发布服务器根据所述任务属性，将任务放置在不同队列中，并更新公共缓存中的排队信息；

(2)任务处理阶段

步骤S3，任务处理服务器从公共缓存中获取需要拉取的任务的排队信息，然后根据预设的优先级策略计算不同任务优先权值；所述优先级策略根据以下条件制定：任务的数据处理量、任务所服务客户的VIP等级；

步骤S4，所述任务处理服务器根据任务优先权值从队列中依次拉取任务；

步骤S5，所述任务处理服务器对拉到的任务的任务属性进行读取，以获取该任务算法执行流程，处理该任务，并返回处理结果；

其中，当队列中的任务数量超过预设值时，任务堆积信息会保存在公共缓存中，所述任务发布服务器和任务处理服务器通过所述公共缓存共享任务堆积信息，调整执行任务的策略；

调用端代表识别请求发送方，发送方首先将调用请求发送到负载均衡服务器; 负载均衡服务器将请求发送给sv_server，sv_server将请求信息记录进REDIS缓存，并将请求放入消息队列MQ，middle_task_client以很短的间隔向sv_server拉取识别请求，middle_task_client处理识别请求，如果有需要则调用tensorflow处理，middle_task_client将请求结果返回给sv_server; sv_server将结果记录进MySQL数据库，调用方可选择拉取识别结果，或由sv_server主动返回的方式得到结果，middle_task_watcher负责监控Redis中识别请求的超时请客，定期将超时任务重新放入消息队列MQ。

2.如权利要求1所述的分布式自主均衡人工智能任务调度方法，其特征在于，在所述步骤S5中，所述任务处理服务器根据所述任务属性中配置好的执行代码，执行符合该场景需要的过程，完成任务。

3.如权利要求1所述的分布式自主均衡人工智能任务调度方法，其特征在于，所述任务发布服务器每次接收到新的任务后，将队列排队信息更新到所述公共缓存。

4.一种分布式自主均衡人工智能任务调度系统，其特征在于，包括：任务发布服务器、任务处理服务器和公共缓存平台，其中，

所述任务发布服务器接收任务并识别所述任务携带的描述信息，根据描述信息对所述任务配置任务属性，其中，所述任务属性记录符合该任务工作场景的算法执行流程；然后根据所述任务属性，将任务放置在不同队列中，并更新公共缓存平台中的排队信息；

所述公共缓存平台用于存储任务的排队信息；

所述任务处理服务器用于从公共缓存平台中获取需要拉取的任务的排队信息，然后根据预设的优先级策略计算不同任务优先权值，根据任务优先权值从队列中依次拉取任务，对拉到的任务的任务属性进行读取，以获取该任务算法执行流程，处理该任务，并返回处理结果；所述优先级策略根据以下条件制定：任务的数据处理量、任务所服务客户的VIP等级；

其中，当队列中的任务数量超过预设值时，任务堆积信息会保存在公共缓存中，所述任务发布服务器和任务处理服务器通过所述公共缓存共享任务堆积信息，调整执行任务的策略；

调用端代表识别请求发送方，发送方首先将调用请求发送到负载均衡服务器; 负载均衡服务器将请求发送给sv_server，sv_server将请求信息记录进REDIS缓存，并将请求放入消息队列MQ，middle_task_client以很短的间隔向sv_server拉取识别请求，middle_task_client处理识别请求，如果有需要则调用tensorflow处理，middle_task_client将请求结果返回给sv_server; sv_server将结果记录进MySQL数据库，调用方可选择拉取识别结果，或由sv_server主动返回的方式得到结果，middle_task_watcher负责监控Redis中识别请求的超时请客，定期将超时任务重新放入消息队列MQ。