[发明专利]一种基于云计算的跨集群资源调度系统有效
申请号: | 201710804995.0 | 申请日: | 2017-09-08 |
公开(公告)号: | CN107491343B | 公开(公告)日: | 2020-04-17 |
发明(设计)人: | 张弦;朱仲马;薛科婷;刘晓浩;何重阳;唐义飞;马腾郡 | 申请(专利权)人: | 中电莱斯信息系统有限公司 |
主分类号: | G06F9/455 | 分类号: | G06F9/455 |
代理公司: | 江苏圣典律师事务所 32237 | 代理人: | 胡建华;于瀚文 |
地址: | 210000 江*** | 国省代码: | 江苏;32 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 基于 计算 集群 资源 调度 系统 | ||
1.一种基于云计算的跨集群资源调度系统,其特征在于,包括消息捕获服务模块、跨集群元数据同步服务模块、数据多副本异步部署服务模块和跨集群资源调度服务模块;
所述消息捕获服务模块用于捕获本地虚拟化集群内部消息,并上报给跨集群元数据同步服务模块;
所述跨集群元数据同步服务模块用于分发本地虚拟化集群元数据,并接受远端虚拟化集群分发的元数据;
所述数据多副本异步部署服务模块用于提供虚拟化集群后端存储服务,提供虚拟化集群数据远端副本同步、数据一致性校验服务、断点续传功能;
所述跨集群资源调度服务模块包括本地跨集群资源调度服务模块和远端跨集群资源调度服务模块,提供资源重建、跨集群资源调度请求分发响应功能;
所述消息捕获服务模块通过端口映射技术捕获虚拟化集群中各服务之间的REST调用及结果数据,并将捕获的数据发送到跨集群元数据同步服务模块;
所述消息捕获服务模块捕获虚拟化集群内部基于消息队列的RPC远程过程调用协议调用信息,并将捕获的数据发送到跨集群元数据同步服务模块;
所述跨集群元数据同步服务模块接收消息捕获服务模块发送的数据,对数据按照JSON数据格式通过自带协议解析器进行解析处理,标记远端虚拟化集群唯一标示,在本地元数据同步服务模块进行注册,然后将通过数据解析获得的元数据信息分发到其他已在本地注册过的虚拟化集群,同时跨集群元数据同步服务模块还对本地元数据进行扫描,与待分发元数据进行对比,确保元数据一致性,如果不一致,则将接受到的数据抛弃;
跨集群元数据同步服务模块将接收远端虚拟化集群分发的元数据,查看该集群是否已注册,如果已注册,则对元数据进行格式化处理,如果没有注册,则向远端发送错误信息;
跨集群元数据同步服务模块支持本地元数据信息校验,通过与本地集群周期任务报送的数据进行对比,对本地元数据进行实时更新;支持基于策略的元数据信息分发,根据具体需要,将本集群的元数据分发到远端集群;支持基于策略的元数据接受与校验,接收远端分发来的远端集群元数据,对数据进行JSON格式校验,确保元数据格式正确;支持元数据验错重传,当元数据校验格式错误时,及时通知远端集群进行数据重传;
所述数据多副本异步部署服务模块用于提供虚拟化集群后端存储服务包括:用户写入虚拟化集群的数据在数据多副本异步部署服务模块中采用分布式块存储形式进行保存,数据被分为64M一个的数据块,每个数据块均采用多副本形式保存,同时数据多副本异步部署服务模块将向远端备份存储发起备份请求,以确保备份存储状态,得到许可后,将数据以块为单位向远端备份,这一备份过程从数据开始写入本地即开始,同时远端备份是否完成不影响本地写入完成效率;
所述数据多副本异步部署服务模块提供断点续传功能包括:远端备份过程中如遇到网络中断,数据多副本异步部署服务模块将对已传输数据块进行标记,当网络恢复时,以数据块为单位进行断点续传;传输完成后,向本地虚拟化管理系统发送完成信号,该信号将被消息捕获服务模块捕获,进而被跨集群元数据同步服务模块分发到远端;
数据多副本异步部署服务模块提供虚拟化集群数据远端副本同步功能:数据多副本异步部署服务模块支持跨集群副本异步备份,基于分布式存储集群已有的多副本存储机制,将本地存储集群内的数据块异步的备份到远端分布式存储集群,确保本地存储集群损坏后,数据在远端分布式存储集群仍有有效备份,异步备份不影响本地数据副本写出效率;
数据多副本异步部署服务模块接收到远端备份请求,查看该集群是否已注册,如果已注册,则发送允许信号;接收到远端备份数据时,首先进行元数据记录,并将数据标记为特定集群的备份数据,同时开始备份数据存储;对于接收到的数据,数据多副本异步部署服务模块将进行数据一致性校验服务:包括检查接收到的数据是否完整,MD5校验值是否正确,数据是否与元数据匹配,如果数据一致性存在问题,则要求远端重发该数据块;
跨集群资源调度服务模块提供跨集群资源调度请求分发响应功能,用于接受跨集群资源调度请求,并将该请求转发到远端集群,远端集群的跨集群资源调度服务模块将根据该请求进行资源重建,具体过程包括如下步骤:
步骤1,本地跨集群资源调度服务模块接收到跨集群资源调度请求;
步骤2,本地跨集群资源调度服务模块检查该资源是否在跨集群高可用池中,若不在高可用池中,则返回错误,表明该资源不具备高可用能力,若在高可用池中,则继续步骤3;
步骤3,本地跨集群资源调度服务模块查询该资源的远端调度目标集群,获得该资源的远端调度目标集群后继续步骤4,未获得则返回错误,表明该资源无远端调度目标集群;
步骤4,跨集群资源调度服务模块提供跨集群资源调度请求分发响应功能:本地跨集群资源调度服务模块发起跨集群资源调度分发,将资源调度请求转发到该资源远端调度目标集群;
步骤5,远端跨集群资源调度服务模块进行跨集群资源调度响应,检查接收到的资源调度请求是否合法,若不合法,则返回错误到本地跨集群资源调度服务模块,若合法,则继续步骤6;
步骤6,远端跨集群资源调度服务模块基于跨集群元数据同步服务模块检查待恢复资源元数据完整性及合法性,如有问题,则请求本地跨集群资源调度服务模块重发待回复资源的元数据,若无问题,则继续步骤7;
步骤7,远端跨集群资源调度服务模块基于数据多副本异步部署服务模块检查待回复资源的数据完整性及合法性,如有问题,则请求本地跨集群资源调度服务模块通过本地数据多副本异步部署服务模块重发待恢复的数据,如果没有问题,则执行步骤8;
步骤8,远端跨集群资源调度服务模块进行元数据与数据匹配行检查,确保元数据与数据相匹配,若不匹配,则返回错误到本地跨集群资源调度服务模块,表明数据错误,调度失败,若匹配,则继续步骤9;
步骤9,远端跨集群资源调度服务模块进行资源重建,通过调用虚拟化集群的计算、存储、网络相关REST接口,将待恢复资源的元数据提供给虚拟化集群,由虚拟化集群基于远端跨集群资源调度服务模块所提供的元数据调用对应的数据进行虚拟资源重建;
步骤10,远端跨集群资源调度服务模块基于数据多副本异步部署服务模块进行已重建资源的多副本分发;
步骤11,根据具体需求,确定重建资源是否需要再次进行异端备份,并制定相应的备份策略,远端跨集群资源调度服务模块基于策略进行已重建资源的异端备份。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于中电莱斯信息系统有限公司,未经中电莱斯信息系统有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201710804995.0/1.html,转载请声明来源钻瓜专利网。