[发明专利]一种面向互联网场景差异化服务的负载均衡的边缘协作缓存方法

权利要求书

1.一种面向互联网场景差异化服务的负载均衡的边缘协作缓存方法，其特征在于，包括以下步骤：

S1：定义用户发出应用服务请求后边缘协作缓存系统中的边缘节点做出的响应动作及缓存参数；

所述定义用户发出应用服务请求后边缘协作缓存系统中的边缘节点做出的响应动作共包括有四种响应，同时响应中参数定义如下：将用户请求记为：r:＝(f,s,p)，请求的服务记为f，边缘节点/服务器记为s，请求的优先级记为p；

所述四种响应具体为：

用户发出请求r:＝(f,s,p)，若本地边缘节点s已部署服务f，那么我们称用户请求r本地命中，记本地命中请求访问延迟为t_l，所述本地边缘节点包括：用户所接入网络的基站、路由器；

用户发出请求r:＝(f,s,p)，若本地边缘节点s未命中，而邻居节点s'已有部署服务f，那么本地节点将请求r转发relay至s'，那么我们称用户请求r转发命中，记转发命中请求访问延迟为t_r；

用户发出请求r:＝(f,s,p)，若在边缘节点均不命中，本地节点s则将请求r旁路bypass到云数据中心，那么我们称用户请求r节点未命中，记请求访问延迟为t_b；

若用户请求r:＝(f,s,p)在本地节点s或邻居节点s'未命中一次或多次，那么边缘节点s和s'将从云中下载服务应用源代码/应用安装包并配置到节点中，记该动作为fetch，时间开销/延迟为t_f；

定义的缓存参数包括有：

用户请求的平均阻塞率p_pending，如公式(1)所示

其中，n_pending表示阻塞的请求数量，n_request表示请求的数量；

节点中发生的请求排队总延迟T_queueing如公式(2)所示：

其中，t_avgQ为平均排队延迟，其通常设为100毫秒(ms)，K表示请求的总数量；

缓存命中率hr，如公式(3)所示：

其中h_local表示本地节点缓存命中次数，h_relay表示邻居节点缓存命中次数，n_request表示请求的数量；

平均访问延迟t_avg，定义如公式(4)所示：

其中，表示本地节点将用户请求旁路bypass至云进行服务的比例，其中旁路次数为n_bypass，表示边缘节点将用户请求的服务配置安装到边缘节点中的比例，边缘节点包括：本地节点和邻居节点，其中n_fetch为配置安装服务的次数，表示用户请求在节点中需要排队处理的比例，也叫平均阻塞率p_pending，其中n_queueing表示在节点中进行排队的用户请求数量；t_l表示用户请求在本地节点的访问延迟，t_r表示用户请求在邻居节点得到响应的访问延迟，t_b表示用户请求在云得到响应的访问延迟，t_f表示将用户请求访问的服务/应用安装配置到边缘节点的所耗费的时间，t_q表示在所有的边缘节点中，所有的用户请求的排队延迟时间总和；

边缘节点负载方差va来观察节点的负载均衡情况，其定义如公式(5)所示，其表征节点响应请求延迟的稳定性：

其中AVG(hc)表示求出所有的节点负载计数的平均数的函数，m表示整个应用系统中的边缘节点的个数，hc(s_i) 表示第i个边缘节点，即s_i的负载计数；用户请求的服务等级定义如公式(6)所示：

u_level＝frequence*priority (6)

其中，u_level表示用户请求的服务等级，frequence表示用户请求的频率，priority表示用户请求的优先级；

用户请求r:＝(f,s,p)在缓存系统中得到响应时，依据其服务等级和得到的响应动作，将其用户效益u_request定义如公式(7)所示：

S2：参数初始化，执行边缘协作缓存流程，并调用负载均衡策略、差异化服务策略；参数初始化，执行边缘协作缓存流程具体为：

S201-1：初始化所有的边缘节点中的参数，所述参数包括：S₁(f),S₂(r),hc(s_i)＝0,U＝0，其中λ表示阈值，其中η是可取得的最小整数，S₁(f)和S₂(r)分别为记录f和r的请求队列，初始化为空，节点服务负载计数hc(s_i)初始化为0，其中i＝1,...,m，m表示边缘缓存系统中的边缘节点个数，用户效益总和为U＝0；

S201-2：用户终端发出的请求r:＝(f,s,p)指向边缘节点s以期望获取内容f，s将f添加到队列S₁(f)中，将r添加到队列S₂(r)中；

S201-3:判断边缘节点s是否有一文件槽q存有f，是则跳至步骤S201-4，否则跳至步骤S201-5；

S201-4：执行hc(s)+＝1,U+＝getUtility(f,p,'local')，节点s响应r且延迟为t_l，其中getUtility(f,p,'local')表示用公式(7)计算f在用户请求优先级为p、在本地节点s进行服务时的用户效益；

S201-5：节点s将该请求转发relay转发至其邻居节点s'，判断节点s'中是否有一文件槽q存有f，是则跳至步骤S201-6，否则跳至步骤S201-7；

S201-6：执行hc(s')+＝1,U+＝getUtility(f,p,'relay')，邻居节点s'响应r且延迟为t_l+t_r，其中getUtility(f,p,'relay')表示用公式(7)计算f在用户请求优先级为p、在节点s'进行服务时的用户效益，执行完S201-6后跳至S201-8；

S201-7:节点s'执行计算U+＝getUtility(f,p,'bypass')，并将该请求旁路bypass至云中心，云响应r且延迟为t_l+t_r+t_b，其中U+＝getUtility(f,p,'bypass')表示用公式(7)计算f在用户请求优先级为p、在云进行服务时的用户效益；

S201-8：由s或s'或云响应完请求r后，将在节点s或s'处进行缓存更新，如步骤S201-9～S201-17所示；

S201-9：判断请求内容f的队列S₁(f)的长度|S₁(f)|是否等于μ，是则跳至步骤S201-10，否则跳至步骤S201-13；

S201-10：调用负载均衡策略，执行完负载均衡策略返回此处；

S201-11：调用差异化服务策略，执行完差异化服务策略返回此处；

S201-12：清空队列S₁(f)，使其队列长度为0；

S201-13：判断队列S₂(r)的长度|S₂(r)|是否等于λ，是则跳至步骤S201-14，否则跳至步骤S201-17；

S201-14：将当前节点s设置为选中的节点s”；

S201-15：调用差异化服务策略，执行完差异化服务策略再返回此处；

S201-16：清空队列S₂(r)，使其队列长度为0；

S201-17：边缘协作缓存策略结束；

所述负载均衡策略执行流程包括：

S202-1：统计所有边缘节点s_i(i＝1,...,m)的负载计数hc(s_i)

S202-2：记所有节点中的最大负载计数hc_max＝MAX(hc)；

S202-3：统计所有的节点s_i的负载hc(s_i)与hc_max累加差值并设置随机区间的大小

S202-4：计算每一个节点s_k(k＝1,...,m)的在随机区间random_size的长度为pr_k将作为基于节点热度进行概率选取节点的一个依据；

S202-5：计算出random_num＝RANDOM(0,random_size)，其中RANDOM(0,random_size)表示从区间[0,random_size]中均匀地随机选取一个值；

S202-6：将random_num与pr_k(k＝1,...m)依次进行比较，若random_num≥pr_k且random_num＜pr_k，则选中的节点s”＝k；

S202-7：输出选中的节点s”，负载均衡策略结束；

差异化服务策略的流程包括：

S203-1：选中的边缘节点为s”，对于用户请求r:＝(f,s,p)，判断s”中是否有一文件槽q存有f，是则跳至步骤S203-8；否则跳至步骤S203-2；

S203-2：判断边缘节点s”的缓存空间是否已满，是则跳至步骤S203-3，否则跳至步骤S203-7；

S203-3：找出边缘节点s”中所有的最近最小用户效益的服务/应用f_min，判断f_min的数量是否大于1个，是则跳至步骤S203-4，否则跳至步骤S203-5；

S203-4：在S203-3中找到的所有最近最小用户效益的服务/应用f_min中，利用传统缓存算法LRU，找出一个最近最少使用的服务/应用，并将其标记为f_selected；

S203-5：节点s”中最近最小用户效益的服务/应用f_min只有一个，则将该服务/应用f_min标记为f_selected；

S203-6：将S203-4或S203-5中的f_selected从边缘节点s”替换出去；

S203-7：将用户请求的服务/应用f缓存至节点s”；

S203-8：差异化服务策略结束。

2.根据权利要求1所述的一种面向互联网场景差异化服务的负载均衡的边缘协作缓存方法，其特征在于，所述负载均衡策略用于选择缓存的边缘节点，所述差异化服务策略用于确定替换或放置的文件槽。