[发明专利]一种多租户大数据平台的租户优先级管理方法及系统有效
申请号: | 201811514328.X | 申请日: | 2018-12-12 |
公开(公告)号: | CN109783225B | 公开(公告)日: | 2023-09-08 |
发明(设计)人: | 林伟伟;李毓睿 | 申请(专利权)人: | 华南理工大学 |
主分类号: | G06F9/50 | 分类号: | G06F9/50;G06Q30/0645 |
代理公司: | 广州市华学知识产权代理有限公司 44245 | 代理人: | 陈宏升 |
地址: | 510640 广*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 租户 数据 平台 优先级 管理 方法 系统 | ||
1.一种多租户大数据平台的租户优先级管理方法,其特征在于,基于径向基函数神经网络,包括以下顺序的步骤:
S1、初始化租户优先级管理器;
S2、租户向集群发出资源请求,集群向该租户分配资源;
S3、当集群资源不足以满足当前租户的资源请求时,将启动租户优先级管理器,将该租户的资源请求加入资源申请等待队列中;
S4、当租户需要提高租户的资源请求优先级时,租户通过系统内部信箱向租户优先级管理器发出申请;
S5、租户优先级管理器通过径向基函数神经网络计算出租户资源申请优先级,并生成判断文档交给系统管理员;
S6、系统管理员根据判断文档决定是否同意提升租户的资源请求优先级;
S7、对于高优先级的资源请求,系统管理员有权控制其抢占其他租户的资源;
S8、当某租户的所有作业完成后,集群资源管理器将收回其占有的资源;当该租户有新的任务时,将重新发出资源请求;
所述租户优先级管理器由径向基函数神经网络和资源请求等待队列组成,其中,资源请求等待队列将未分配的资源请求在集群外收集起来;
所述步骤S1,具体为:
S101、为系统内的租户分配一个固定的租户ID,每个租户ID为该租户的唯一标识,不能更改和重复;
S102、收集用于训练径向基函数神经网络的相关数据,需要提供的输入向量为:租户ID、资源申请量、作业类型、作业预计完成时间、资源申请等待时间;输出向量为:3、2、1;其中,3表示低优先级,2表示中优先级,1表示高优先级;
S103、用收集到的信息训练径向基函数神经网络,直到输出结果达到预期;
S104、部署租户优先级管理器;
所述径向基函数神经网络即RBFNN,具体设计为:
输入层:为了预测每个资源请求的优先级,输入向量由五个变量构建,分别为:租户ID、租户资源申请量、租户作业类型、租户作业预计完成时间、租户资源申请等待时间;
隐含层:隐含层对输入层向量进行空间映射变换;采用高斯核函数作为神经元核函数,节点数视需要而定;所述高斯核函数如公式(1)所示:
式中,x为输入层向量,n为输入层单元数;σ为神经网络初始化宽度向量,宽度越小,相应隐含层神经元作用函数的形状越窄,那么处于其他神经元中心附近的信息在该神经元出的响应就越小;x’为输入层向量相应的中心向量;K为该径向基函数的输出值;
输出层:输出层输出节点设置为一个,输出结果为高优先级、中优先级、低优先级三种;计算该神经网络输出值的公式如公式(2)所示:
式中,y为隐含层向量,p为隐含层单元数;y’为隐含层向量相应的中心向量,σ为初始化宽度向量,ωp为隐含层中的权重参数;输入空间中任何径向基函数的位置都由其中心和宽度唯一指定;RBFNN的输出是每个激活的隐含层神经节点的加权和。
2.根据权利要求1所述多租户大数据平台的租户优先级管理方法,其特征在于,步骤S2中,所述集群向该租户分配资源,是通过修改集群的资源管理器来实现的:当集群为某租户分配资源时,在资源管理器中为该租户创建一个资源队列,并向该资源队列分配资源;所述集群的资源管理器包括YARN中的ResourceManager。
3.根据权利要求1所述多租户大数据平台的租户优先级管理方法,其特征在于,步骤S5中,所述优先级管理器收到来自租户的输入向量从资源请求等待队列中获取;步骤S5中,所述判断文档由径向基函数神经网络计算出的相应租户作业优先级和租户自定的备注内容组成。
4.根据权利要求1所述多租户大数据平台的租户优先级管理方法,其特征在于,步骤S7中,所述其他租户的资源,被抢占后,由集群的资源管理器暂时收回其资源队列占有的资源,同时不删除该租户的资源队列,队列中的作业将被暂时挂起,等高级租户作业完成后或集群有空闲资源时再重新分配。
5.根据权利要求1所述多租户大数据平台的租户优先级管理方法,其特征在于,步骤S8中,所述集群资源管理器将收回租户占有的资源,具体的方法为:
通过修改集群的资源管理器,每当大数据平台内有作业完成时,检查该作业的资源队列,若资源队列中无其他作业,则收回该资源队列占有的资源。
6.一种多租户大数据平台的租户优先级管理系统,其特征在于:包括大数据平台、租户优先级管理器、系统管理员;其中租户优先级管理器用于生成优先级判断文档辅助系统管理员做优先级判断,并且将未分配的资源请求在集群外收集起来;租户使用大数据平台的计算资源;所述租户优先级管理器包括两个组件:径向基函数神经网络和资源请求等待队列;
初始化租户优先级管理器的步骤包括:
S101、为系统内的租户分配一个固定的租户ID,每个租户ID为该租户的唯一标识,不能更改和重复;
S102、收集用于训练径向基函数神经网络的相关数据,需要提供的输入向量为:租户ID、资源申请量、作业类型、作业预计完成时间、资源申请等待时间;输出向量为:3、2、1;其中,3表示低优先级,2表示中优先级,1表示高优先级;
S103、用收集到的信息训练径向基函数神经网络,直到输出结果达到预期;
S104、部署租户优先级管理器;
所述径向基函数神经网络,具体设计为:
输入层:为了预测每个资源请求的优先级,输入向量由五个变量构建,分别为:租户ID、租户资源申请量、租户作业类型、租户作业预计完成时间、租户资源申请等待时间;
隐含层:隐含层对输入层向量进行空间映射变换;采用高斯核函数作为神经元核函数,节点数视需要而定;所述高斯核函数如公式(1)所示:
式中,x为输入层向量,n为输入层单元数;σ为神经网络初始化宽度向量,宽度越小,相应隐含层神经元作用函数的形状越窄,那么处于其他神经元中心附近的信息在该神经元出的响应就越小;x’为输入层向量相应的中心向量;K为该径向基函数的输出值;
输出层:输出层输出节点设置为一个,输出结果为高优先级、中优先级、低优先级三种;计算该神经网络输出值的公式如公式(2)所示:
式中,y为隐含层向量,p为隐含层单元数;y’为隐含层向量相应的中心向量,σ为初始化宽度向量,ωp为隐含层中的权重参数;输入空间中任何径向基函数的位置都由其中心和宽度唯一指定;RBFNN的输出是每个激活的隐含层神经节点的加权和。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于华南理工大学,未经华南理工大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201811514328.X/1.html,转载请声明来源钻瓜专利网。
- 数据显示系统、数据中继设备、数据中继方法、数据系统、接收设备和数据读取方法
- 数据记录方法、数据记录装置、数据记录媒体、数据重播方法和数据重播装置
- 数据发送方法、数据发送系统、数据发送装置以及数据结构
- 数据显示系统、数据中继设备、数据中继方法及数据系统
- 数据嵌入装置、数据嵌入方法、数据提取装置及数据提取方法
- 数据管理装置、数据编辑装置、数据阅览装置、数据管理方法、数据编辑方法以及数据阅览方法
- 数据发送和数据接收设备、数据发送和数据接收方法
- 数据发送装置、数据接收装置、数据收发系统、数据发送方法、数据接收方法和数据收发方法
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置