[发明专利]应用实例数量的调整方法及装置在审
申请号: | 202210303688.5 | 申请日: | 2022-03-24 |
公开(公告)号: | CN114844843A | 公开(公告)日: | 2022-08-02 |
发明(设计)人: | 李丹;李峻峰 | 申请(专利权)人: | 清华大学 |
主分类号: | H04L47/263 | 分类号: | H04L47/263;H04L43/0852 |
代理公司: | 北京路浩知识产权代理有限公司 11002 | 代理人: | 肖艳 |
地址: | 100084 北京市海淀区双清路*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 应用 实例 数量 调整 方法 装置 | ||
1.一种应用实例数量的调整方法,其特征在于,包括:
获取入口网关处的请求到达信息、应用实例的初始数量、应用实例的运行状态信息以及服务响应时延要求;
基于所述入口网关处的请求到达信息、应用实例的初始数量、应用实例的运行状态信息和服务响应时延要求,确定所述应用实例的目标数量;
将所述应用实例的初始数量调整至所述目标数量。
2.根据权利要求1所述的应用实例数量的调整方法,其特征在于,基于所述入口网关处的请求到达信息、应用实例的初始数量、应用实例的运行状态信息和服务响应时延要求,确定所述应用实例的目标数量,包括:
基于所述入口网关处的请求到达信息和所述应用实例的运行状态信息,确定第一阈值;
将所述应用实例的初始数量与所述第一阈值进行比较,得到第一比较结果;
基于所述应用实例的运行状态信息和所述服务响应时延要求,确定第二阈值;
将所述应用实例的运行状态信息中平均队列长度与所述第二阈值进行比较,得到第二比较结果;
基于所述第一比较结果和所述第二比较结果,确定所述应用实例的目标数量。
3.根据权利要求2所述的应用实例数量的调整方法,其特征在于,所述入口网关处的请求到达信息包括平均请求到达速率。
4.根据权利要求3所述的应用实例数量的调整方法,其特征在于,基于所述入口网关处的请求到达信息和所述应用实例的运行状态信息,确定第一阈值,包括:
将所述平均请求到达速率与所述运行状态信息中平均单个应用实例的处理能力相除,得到第一阈值。
5.根据权利要求2所述的应用实例数量的调整方法,其特征在于,基于所述应用实例的运行状态信息和所述服务响应时延要求,确定第二阈值,包括:
将所述服务响应时延要求与所述应用实例的运行状态信息中平均单个请求完成时长做差,得到时长差值;
将所述运行状态信息中平均单个应用实例的处理能力与所述时长差值相乘,得到第二阈值。
6.根据权利要求2所述的应用实例数量的调整方法,其特征在于,基于所述第一比较结果和所述第二比较结果,确定所述应用实例的目标数量,包括:
若所述应用实例的初始数量小于所述第一阈值,或者所述应用实例的初始数量等于所述第一阈值且所述应用实例的运行状态信息中平均队列长度大于所述第二阈值,则通过预设的第一函数关系确定所述应用实例的目标数量;
若所述应用实例的初始数量等于所述第一阈值,且所述应用实例的运行状态信息中平均队列长度小于或等于所述第二阈值,则将所述应用实例的初始数量作为所述应用实例的目标数量;
若所述应用实例的初始数量大于所述第一阈值,则通过预设的第二函数关系确定所述应用实例的目标数数量。
7.根据权利要求6所述的应用实例数量的调整方法,其特征在于,所述第一函数关系为:
其中,Pnew为应用实例的目标数量,V为平均请求到达速率,td为调整周期,为平均队列长度,Pcu为应用实例的初始数量,为平均单个应用实例的处理能力,TSLO为服务响应时延要求,为平均单个请求完成时长。
8.根据权利要求6所述的应用实例数量的调整方法,其特征在于,所述第二函数关系为:
其中,Pnew为应用实例的目标数量,V为平均请求到达速率,td为调整周期,为平均队列长度,为平均单个应用实例的处理能力,TSLO为服务响应时延要求,为平均单个请求完成时长。
9.根据权利要求1至8任一项所述的应用实例数量的调整方法,其特征在于,获取应用实例的运行状态信息,包括:
分别获取与所述入口网关对应的各个应用实例的状态参数;
将所述各个应用实例的状态参数求平均值,得到所述应用实例的运行状态信息。
10.一种应用实例数量的调整装置,其特征在于,包括:
获取模块,用于获取入口网关处的请求到达信息、应用实例的初始数量、应用实例的运行状态信息以及服务响应时延要求;
处理模块,用于基于所述入口网关处的请求到达信息、应用实例的初始数量、应用实例的运行状态信息和服务响应时延要求,确定所述应用实例的目标数量;
调整模块,用于将所述应用实例的初始数量调整至所述目标数量。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于清华大学,未经清华大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202210303688.5/1.html,转载请声明来源钻瓜专利网。