[发明专利]大数据存储中副本存放、补全、节点选择方法及管理系统有效
申请号: | 201810545954.9 | 申请日: | 2018-05-25 |
公开(公告)号: | CN110535898B | 公开(公告)日: | 2022-10-04 |
发明(设计)人: | 丁博;徐大青;张展国;贺彪;杨迎春;王少鹏;刘一擎;丁亮 | 申请(专利权)人: | 许继集团有限公司;许昌许继软件技术有限公司;国家电网有限公司 |
主分类号: | H04L67/1008 | 分类号: | H04L67/1008;H04L67/1097 |
代理公司: | 郑州睿信知识产权代理有限公司 41119 | 代理人: | 崔旭东 |
地址: | 461000 河*** | 国省代码: | 河南;41 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 数据 存储 副本 存放 节点 选择 方法 管理 系统 | ||
1.大数据存储中副本补全方法,其特征在于,当需要补全的副本数小于3时,获取各丢失副本所在的机架,并判断各故障节点所在机架上是否存在活动节点,若存在活动节点则在这些活动节点中按照设定的节点选择方法选择数据节点用于副本的补全,若不存在活动节点,则从与故障节点故障率相同的节点中按照设定的节点选择方法选择节点用于副本的补全;
所述设定的节点选择方法为:根据各数据节点服务器的实时状态信息及历史故障信息选取副本存放节点的评价指标,包括磁盘使用率、磁盘I/O负载率、CPU负载率、内存负载率、读写任务连接率及节点故障率,所述读写任务连接率为当前服务器读写任务的连接数与文件系统允许的读写任务最大连接数的比值;确定各个评价指标的权值,然后根据以下公式计算出的参考值来选择数据节点作为副本存放位置:
ω=λ0ωdisk_used+λ1ωdisk_io+λ2ωcpu+λ3ωmem+λ4ωprocess+λ5ωfr
其中,ω为数据节点选择参考值,ωdisk_used、ωdisk_io、ωcpu、ωmem、ωprocess、ωfr分别为磁盘使用率、磁盘I/O负载率、CPU负载率、内存负载率、读写任务连接率和节点故障率,λ0+λ1+λ2+λ3+λ4+λ5=1,λ0、λ1、λ2、λ3、λ4、λ5、ωdisk_used、ωdisk_io、ωcpu、ωmem、ωprocess、ωfr∈[0,1]。
2.根据权利要求1所述的大数据存储中副本补全方法,其特征在于,采用层次分析法确定各个评价指标的权值,将各个评价指标的权值描述为判断矩阵,对各评价指标进行分层,各层之间的联系实现定量分析,最终求取一个归一化特征向量作为判断矩阵;当感知到集群在处理不同任务时,自适应地匹配相应的矩阵,以修正合适的副本放置位置。
3.根据权利要求1或2所述的大数据存储中副本补全方法,其特征在于,所述节点故障率为数据节点故障时间与在线运行时间的比值或数据节点已使用年限与设计使用年限的比值。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于许继集团有限公司;许昌许继软件技术有限公司;国家电网有限公司,未经许继集团有限公司;许昌许继软件技术有限公司;国家电网有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201810545954.9/1.html,转载请声明来源钻瓜专利网。
- 数据显示系统、数据中继设备、数据中继方法、数据系统、接收设备和数据读取方法
- 数据记录方法、数据记录装置、数据记录媒体、数据重播方法和数据重播装置
- 数据发送方法、数据发送系统、数据发送装置以及数据结构
- 数据显示系统、数据中继设备、数据中继方法及数据系统
- 数据嵌入装置、数据嵌入方法、数据提取装置及数据提取方法
- 数据管理装置、数据编辑装置、数据阅览装置、数据管理方法、数据编辑方法以及数据阅览方法
- 数据发送和数据接收设备、数据发送和数据接收方法
- 数据发送装置、数据接收装置、数据收发系统、数据发送方法、数据接收方法和数据收发方法
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置