[发明专利]一种面向互联网场景差异化服务的负载均衡的边缘协作缓存方法

说明书

本发明公开了一种面向互联网场景差异化服务的负载均衡的边缘协作缓存方法，包括以下步骤：S1：定义用户发出应用服务请求后边缘协作缓存系统中的边缘节点做出的响应动作及缓存参数；S2：参数初始化，执行边缘协作缓存流程，并调用负载均衡策略、差异化服务策略。本发明通过在边缘协作缓存系统统中采用差异化服务策略满足了在互联网场景中不同用户的不同服务等级的需求，通过负载均衡策略降低用户请求的排队延迟，提高了节点响应请求延迟的稳定性，提升了用户体验。

技术领域

本发明涉及边缘协作缓存技术领域，更具体地，涉及一种面向互联网场景差异化服务的负载均衡的边缘协作缓存方法。

背景技术

在大数据时代，随着互联网数据的爆炸式增长，IDC预测，到2020年将超过500亿设备连入互联网，并且互联网数据也将达到44ZB，其中70％的数据需要在边缘设备中进行处理。此外，大量的互联网用户频繁地向云请求/获取内容，这给网络服务提供商SP的服务器带来了巨大的负载压力。在此大数据背景的网络数据传输高峰期，由于云服务器承受了巨大的负载压力，传统的云计算技术难以满足QoS和QoE。

大量的研究表明，边缘缓存将云数据中心的文件或服务等内容下沉至网络边缘，能有效地降低云数据中心服务器负载压力，降低服务提供商运营成本，增加服务提供商收益，提升用户体验。然而，互联网内容暴增、用户偏好多样且多变、互联网对差异化服务的需求，影响了边缘缓存内容放置和替换策略的有效性。在此现实应用场景下，为了优化服务提供商收益和用户体验，边缘服务器应缓存哪些内容，边缘服务器如何进行协作缓存，是一个关键问题。

现有技术中，申请号为CN201910277048.X的发明专利公开了一种基于机器学习的移动网络边缘协作缓存模型构造方法，其通过Zipf模型生成用户对内容的请求分布，并进一步地使用机器学习的方法，根据用户请求建立网络训练模型，使用该模型将用户请求自适应地选择至本地基站或协作基站或云以得到快速响应；另外，本地基站或协作基站将根据该网络训练模型进行缓存替换，以提高本地基站或协作基站的缓存命中率，以降低用户请求响应时间。但该发明存在以下缺点，首先，专利[1]采用机器学习的方法训练网络模型，而生成网络模型需要耗费一定的时间；其次，在训练完网络训练模型后，网络训练模型也需要进行多次迭代以达到收敛，这也需要耗费一定的时间；再次，互联网场景中，用户偏好(用户对内容的爱好)多样且多变，使得Zipf分布模型不一定适用于互联网场景下用户的请求分布，即该专利中的用Zipf定律生成的用户请求的模型未必有效；再者，未考虑不同的用户请求应具有不同的服务等级需求，即差异化服务需求，即高服务等级的用户请求应得到相对更快的响应，即其请求的内容应有更大的概率放置在离用户端更近的(协作)基站中；另外，该专利只是单纯地对基站进行查询是否缓存命中，进而选中基站对用户请求进行服务，而未考虑基站的负载均衡，这可能使得原本负载繁重的基站的负载加剧，使得用户请求在这些基站中进行排队处理的时间增长，增加了用户请求的排队延迟，增大了用户平均访问延迟，降低了用户体验。

发明内容

本发明为克服上述现有技术中基于互联网在线请求服务及多节点协作边缘缓存场景，针对用户差异化服务需求和边缘服务器负载不均衡带来的请求排队延迟导致用户请求的平均访问延迟大，用户体验不佳问题，提供一种面向互联网场景差异化服务的负载均衡的边缘协作缓存方法。

本发明的首要目的是为解决上述技术问题，本发明的技术方案如下：

一种面向互联网场景差异化服务的负载均衡的边缘协作缓存方法，包括以下步骤：

S1：定义用户发出应用服务请求后边缘协作缓存系统中的边缘节点做出的响应动作及缓存参数；

S2：参数初始化，执行边缘协作缓存流程，并调用负载均衡策略、差异化服务策略。

本方案中，所述负载均衡策略用于选择缓存的边缘节点，所述差异化服务策略用于确定替换或放置的文件槽。