[发明专利]一种基于模型的Hadoop部署以及配置方法有效
申请号: | 201510620902.X | 申请日: | 2015-09-25 |
公开(公告)号: | CN105260203B | 公开(公告)日: | 2017-11-17 |
发明(设计)人: | 陈星;郭文忠;黄益成 | 申请(专利权)人: | 福州大学 |
主分类号: | G06F9/445 | 分类号: | G06F9/445 |
代理公司: | 福州元创专利商标代理有限公司35100 | 代理人: | 蔡学俊 |
地址: | 350108 福建省福州市*** | 国省代码: | 福建;35 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 基于 模型 hadoop 部署 以及 配置 方法 | ||
1.一种基于模型的Hadoop部署以及配置方法,其特征在于,按照如下步骤实现:
步骤S1:将用以描述用户需要的服务模型以及用以描述计算资源的云模型作为一Hadoop集群的自动化部署以及配置规则引擎的输入;
步骤S2:对Hadoop集群的自动化部署以及配置规则进行设定,并作为可重用资源进行固化;
步骤S3:根据所述Hadoop集群的自动化部署以及配置规则,结合所述服务模型以及所述云模型,生成Hadoop集群的自动化部署以及配置方案;
步骤S4:根据所述Hadoop集群的自动化部署以及配置方案,调用API在基础设施上部署Hadoop集群,得到更新后的、用以描述Hadoop集群服务层实时状态信息的服务模型以及用以描述Hadoop集群部署结果与实时状态信息的部署模型;
在所述步骤S2中,所述Hadoop集群的自动化部署以及配置规则包括:不同类型的机型在所有使用的计算节点个数中占用的个数、不同的角色占有的计算节点的范围、不同角色间以及组件与不同类型计算节点间的依赖关系、不同服务组件间的互斥关系以及所选服务的参数配置;
在所述步骤S3中,通过如下步骤生成所述Hadoop集群的自动化部署以及配置方案:
步骤S31:初始化所述Hadoop集群的自动化部署以及配置规则,从所述Hadoop集群的自动化部署以及配置规则中去除所述服务模型中不包括的Hadoop服务;
步骤S32:获取计算节点列表;从所述云模型中,获取若干个由所述服务模型中Cluster元素的AllHostNum属性限定的计算节点列表HostList;
步骤S33:处理角色之间的依赖关系;
步骤S34:处理角色之间的互斥关系;
步骤S35:处理每个角色的数量限制;
步骤S36:处理服务参数配置;
步骤S37:输出最终的所有角色的计算节点列表以及参数配置列表;
步骤S38:算法结束。
2.根据权利要求1所述的一种基于模型的Hadoop部署以及配置方法,其特征在于,所述角色为Hadoop服务组件。
3.根据权利要求2所述的一种基于模型的Hadoop部署以及配置方法,其特征在于,在所述步骤S33中,还包括如下步骤:
步骤S331:处理所述角色与所述计算节点列表中计算节点类型之间的依赖;
步骤S332:处理所述角色之间的依赖;
步骤S333:将剩下的且不存在依赖关系的角色的计算节点列表初始化为HostList。
4.根据权利要求2所述的一种基于模型的Hadoop部署以及配置方法,其特征在于,在所述步骤S34中,还包括如下步骤:
步骤S341:获取存在互斥关系角色的交集节点;
步骤S342:获取每个角色的数量限制,包括最小限定值以及最大限定值;
步骤S343:分别去除每个角色的交集节点,且当去除后节点的个数小于每个角色对应的最小限定值时,用交集节点补足;
步骤S344:按照每个角色对应的最小限定值以及最大限定值差额的比例分配交集节点中的剩余节点。
5.根据权利要求2所述的一种基于模型的Hadoop部署以及配置方法,其特征在于,在所述步骤S35中,循环检查每个角色对应的节点列表,根据所述Hadoop集群的自动化部署以及配置规则中设定的数量的限制,包括最小限定值以及最大限定值,判断每个角色对应的节点列表长度与该角色对应的最小限定值以及最大限定值之间的关系;若角色对应的列表长度小于角色的最小限定值,则报错,转至所述步骤S38,算法结束;若角色对应的列表长度大于角色的最大限定值,则去除超过最大限定值的节点个数,使得该列表的列表长度等于最大限定值。
6.根据权利要求2所述的一种基于模型的Hadoop部署以及配置方法,其特征在于,在所述步骤S36中,为每个角色维护一个参数配置列表RoleConfList,将所述Hadoop集群的自动化部署以及配置规则中设定的参数配置存放至对应角色的参数配置列表中。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于福州大学,未经福州大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201510620902.X/1.html,转载请声明来源钻瓜专利网。
- 上一篇:一种U盘升级车载行车记录仪终端的方法
- 下一篇:车辆软件更新验证