[发明专利]应用实例数量的调整方法及装置

说明书

本发明涉及通信领域，提供一种应用实例数量的调整方法及装置，方法包括：获取入口网关处的请求到达信息、应用实例的初始数量、应用实例的运行状态信息和服务响应时延要求；基于入口网关处的请求到达信息、应用实例的初始数量、应用实例的运行状态信息和服务响应时延要求，确定应用实例的目标数量；将应用实例的初始数量调整至目标数量。由于调整过程中综合考虑到了入口网关处的请求到达状况、应用实例的运行状态以及用户的时延需求，可以通过应用实例数量的自动伸缩提高资源利用率，还可以满足用户的服务响应时延要求，有效解决了现有的无服务平台中自动伸缩机制无法满足用户的服务响应时延要求，且存在服务器集群的资源利用率低的问题。

技术领域

本发明涉及通信技术领域，尤其涉及一种应用实例数量的调整方法及装置。

背景技术

无服务(Serverless)是一种新型的云计算架构，可以使用户无需关注底层服务器的管理和维护，且支持简单快捷的应用部署方式和弹性伸缩机制。

然而，在无服务平台中，现有的自动伸缩机制无法满足用户的服务响应时延要求，且存在服务器集群的资源利用率低的问题。

发明内容

本发明提供一种应用实例数量的调整方法及装置，用以解决现有技术中自动伸缩机制无法满足用户的服务响应时延要求，且存在服务器集群的资源利用率低的缺陷。

第一方面，本发明提供一种应用实例数量的调整方法，该方法包括：

获取入口网关处的请求到达信息、应用实例的初始数量、应用实例的运行状态信息以及服务响应时延要求；

基于所述入口网关处的请求到达信息、应用实例的初始数量、应用实例的运行状态信息和服务响应时延要求，确定所述应用实例的目标数量；

将所述应用实例的初始数量调整至所述目标数量。

根据本发明提供的应用实例数量的调整方法，基于所述入口网关处的请求到达信息、应用实例的初始数量、应用实例的运行状态信息和服务响应时延要求，确定所述应用实例的目标数量，包括：

基于所述入口网关处的请求到达信息和所述应用实例的运行状态信息，确定第一阈值；

将所述应用实例的初始数量与所述第一阈值进行比较，得到第一比较结果；

基于所述应用实例的运行状态信息和所述服务响应时延要求，确定第二阈值；

将所述应用实例的运行状态信息中平均队列长度与所述第二阈值进行比较，得到第二比较结果；

基于所述第一比较结果和所述第二比较结果，确定所述应用实例的目标数量。

根据本发明提供的应用实例数量的调整方法，所述入口网关处的请求到达信息包括平均请求到达速率。

根据本发明提供的应用实例数量的调整方法，基于所述入口网关处的请求到达信息和所述应用实例的运行状态信息，确定第一阈值，包括：

将所述平均请求到达速率与所述运行状态信息中平均单个应用实例的处理能力相除，得到第一阈值。

根据本发明提供的应用实例数量的调整方法，基于所述应用实例的运行状态信息和所述服务响应时延要求，确定第二阈值，包括：

将所述服务响应时延要求与所述应用实例的运行状态信息中平均单个请求完成时长做差，得到时长差值；

将所述运行状态信息中平均单个应用实例的处理能力与所述时长差值相乘，得到第二阈值。

根据本发明提供的应用实例数量的调整方法，基于所述第一比较结果和所述第二比较结果，确定所述应用实例的目标数量，包括：