[发明专利]一种优先级的调度器、网关及调度装置

说明书

本申请公开一种优先级的调度器、网关及调度装置。调度器包括存储模块、识别模块、投递模块、采集模块和处理模块。存储模块用于存储预设的优先级队列，识别模块用于识别用户业务请求的优先级，投递模块用于将用户业务请求根据优先级投入到对应优先级队列中，采集模块用于按照预设比例从优先级队列中采集用户业务请求形成待处理队列，处理模块用于处理待处理队列并输出处理结果。本申请的调度器通过将投入到优先级队列中的用户业务请求按照预设的比例提取形成待处理队列，从而能够在着重处理关键性业务的同时兼顾处理非关键性的业务，合理分布系统资源。

技术领域

本申请涉及软件系统技术领域，更具体而言，涉及一种优先级的调度器、网关及调度装置。

背景技术

随着公司业务需求的不断发展，承载业务运行的微服务也越来越多。API网关作为客户端与业务微服务集群的中间层，将微服务集群对外暴露的服务聚合起来，所有要调用这些服务的外部系统都需要通过API网关进行访问，基于这种方式我们可以对整个系统的API进行统一的管理控制。

传统的API网关都是将客户端的访问请求无差异的转发到后端微服务系统进行处理，这种方式在并发场景或者资源紧张的情况下，非关键性业务的请求有可能会占用系统资源过多，会导致比如订单、支付、进站、出站等关键业务不能得到更多的处理资源，容易造成系统卡顿、加载延迟等，造成用户体验不佳，导致用户流失。

发明内容

本申请提供一种优先级的调度器、网关及调度装置，以解非关键性业务可能会占用系统资源过多导致关键性业务不能及时处理的问题。

具体地，本申请提供一种优先级的调度器，所述调度器包括存储模块、识别模块、投递模块、采集模块和处理模块。所述存储模块用于存储预设的优先级队列，所述识别模块用于识别用户业务请求的优先级，所述投递模块用于将所述用户业务请求根据所述优先级投入到对应所述优先级队列中，所述采集模块用于按照预设比例从所述优先级队列中采集所述用户业务请求形成待处理队列，所述处理模块用于处理所述待处理队列并输出处理结果。

在某些实施方式中，所述存储模块还用于存储所述用户业务请求和所述优先级对应映射关系的元数据，所述识别模块根据所述元数据识别所述用户业务请求的优先级。

在某些实施方式中，在所述用户业务请求的数据属于所述元数据之外时，将所述用户业务请求放置到默认优先级中。

在某些实施方式中，所述优先级队列的数量与所述优先级的数量按照1：N的比例映射，其中N大于或者等于2。

在某些实施方式中，所述采集模块还用于获取同一所述优先级队列预设间隔时间内没有被执行的所述用户业务请求，提高没有被采集的所述用户业务请求的权重值，以使得所述用户业务请求能够进入到下一个所述待处理队列中。

在某些实施方式中，所述采集模块还用于在所述优先级队列的数量不满足所述预设比例时，重新调整所述预设比例。

在某些实施方式中，所述投递模块还用于获取预设时间段内所述用户业务请求的投递次数，根据所述投递次数调整所述用户业务请求的权重值。

本申请还提供一种网关，所述网关包括网关组件和上述任意一实施方式所述的调度器，所述网关组件和所述调度器连接。

在某些实施方式中，所述网关还包括配置模块，所述配置模块用于更改所述优先级队列。

本申请还提供一种业务优先级的调度装置，所述调度装置包括后端服务器和上述任意一实施方式所述的网关，所述后端服务器用于处理所述网关输出的信息。

本申请的调度器、网管和调度装置通过将投入到优先级队列中的用户业务请求按照预设的比例提取用户业务请求形成待处理队列，从而能够在着重处理关键性业务的同时兼顾处理非关键性的业务，合理分布系统资源。

附图说明