[发明专利]针对社交类云存储网络应用的数据备份系统和方法有效
申请号: | 201210551527.4 | 申请日: | 2012-12-18 |
公开(公告)号: | CN102984280A | 公开(公告)日: | 2013-03-20 |
发明(设计)人: | 王旭东;张建 | 申请(专利权)人: | 北京工业大学 |
主分类号: | H04L29/08 | 分类号: | H04L29/08 |
代理公司: | 北京思海天达知识产权代理有限公司 11203 | 代理人: | 张慧 |
地址: | 100124 *** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 针对 社交 存储 网络 应用 数据 备份 系统 方法 | ||
1.一种针对社交类云存储网络应用的数据备份系统,其特征在于,包括:
Master节点,元数据服务器,用户通过访问Master节点来获得Data节点的存储信息;为了防止Master节点单点失效的情况,系统内可以有多个辅助Master节点进行元数据的备份;
Consistence节点,负责保持系统内数据副本的一致性,它将已同步过副本的元数据信息提交给Master节点,使用户只可以访问到最后更新的数据,系统内可以有多个Consistence节点;
Data节点,数据存储服务器,存储用户的数据资源,理论上可以分布在世界上任何适宜的地点;
当用户上传数据资源时,用户连接到Master节点,发送上传数据资源的请求信息,Master节点返回距离用户地理位置最近且可用的Data节点信息,用户根据Master节点返回的信息上传资源到Data节点,Master节点更新元数据信息到Consistence节点,Data节点向用户返回处理的结果,并将元数据信息更新到Consistence节点,Consistence节点根据副本策略备份副本数据到适当的Data节点,并更新副本信息到Master节点;
当用户对已有数据资源进行读操作时,用户连接到Master节点,发送读数据请求,Master节点返回匹配的元数据信息,用户根据Master节点返回的信息访问Data节点并发送读数据请求,Data节点传输用户请求的数据;
当用户对已有数据资源进行写操作时,用户连接到Master节点,发送写数据请求,Master节点返回匹配的元数据信息,用户根据Master节点返回的信息访问Data节点并发送写数据请求,Data节点传输用户请求的数据并更新元数据信息到Consistence节点,Consistence节点协调各Data节点保持副本数据一致性,Consistence节点将更新的元数据传输到Master节点,Master节点返回更新结果,每次用户写资源后,由Consistence节点维护所有副本资源的数据一致性,Master节点只保存已确定更新一致性后的元数据。
2.一种针对社交类云存储网络应用的数据备份方法,其特征在于包括以下步骤:
步骤1,用户上传数据资源;
步骤2,Master节点返回存储负载率低于100%且距离用户位置最近的Data节点信息给用户,用户在该节点放置数据资源,Consistence节点检测放置该数据资源的数据节点的存储负载率是否达到90%,若达不到90%,直接跳到步骤3,进行副本创建;若达到90%,则按以下方法进行负载调整:
在Data节点存储负载率达到90%的情况下,Consistence节点开始动态调整数据资源的位置;
预测将节点存储负载率由90%降到80%的可能性,若负载调整可行,返回接收数据节点的集合At{At1,At2,At3...Atn};若不可行,则结束负载调整;
若经预测判断负载调整可行,对存储负载率达到90%的Data节点上所有数据资源按下式进行健康度计算:
其中,l为数据资源的健康度,为Data节点的废弃度,Copy_Use_Count为相应数据资源被使用的次数;
依据健康度l建立由小到大的链表;
对所建链表内的资源依次进行调整,直到待调整Data节点的存储负载率低于80%;
以集合At{At1,At2,At3...Atn}作为节点集合,以集合中Data节点存储负载率达到90%作为终结条件,依据如下的优先权放置调整的数据资源,同时删除原有数据资源:包含有同类型数据且废弃度低的Data节点,包含有同类型数据的Data节点,任意有空余空间的Data节点;
对所建链表内的资源依次进行调整,直到待调整Data节点的存储负载率低于80%;
Data节点返回更新操作的信息到Consistence节点,Consistence节点传输已保持一致性的Data节点信息到Master节点,更新Master节点的元数据信息;
步骤3,按以下方法创建副本:
Consistence节点获取由Master节点发送的元数据信息与用户地理位置信息;
Consistence节点按下式计算各个Data节点相对于用户的节点废弃度:
其中,为Data节点的废弃度,α为用户与Data节点之间距离的加权比,D_Bandwidth为Data节点接入网络的带宽,β为Data节点网络带宽的加权比,U_D_Distance为用户与Data节点之间距离,按下式计算:
其中,D_Location.x为Data节点位置在平面地图上的横坐标,U_Location.x为用户位置在平面地图上的横坐标,D_Location.y为Data节点位置在平面地图上的纵坐标,U_Location.y为用户位置在平面地图上的纵坐标;
Consistence节点维护多个上传相同类型数据资源用户位置的数据集合S{S1,S2,S3...Sn},和系统内所有Data节点信息的数据集合D{D1,D2,D3...Dm};
当用户上传资源时,若该资源类型的用户位置数据集合为空,新加入元素St,则依次扫描Data节点位置的数据集合,选取废弃度最低的Data节点作为副本放置候选节点;若该Data节点存放有副本的原始数据,则选择废弃度最高的Data节点作为副本放置候选节点;若废弃度最低的Data节点与废弃度最高的Data节点为同一节点,则随机选择一个Data节点作为副本放置候选节点;
当用户上传资源时,若该资源类型的用户位置数据集合不空,且只有一个Data节点Dw作为该集合的副本放置节点,Dw上不存在St的原始数据,则选择Dw为新加入元素St的副本放置候选节点;若该Data节点存放有St的原始数据,则从D不包括Dw的集合中选择废弃度最低的Data节点作为副本放置候选节点;当该资源类型的用户位置数据集合不空,且有多个Data节点{Da,Db,Dc...}作为该集合的副本放置节点,依次扫描{Da,Db,Dc...}并做如下处理:选择对于新加入元素St的废弃度最低的Dt1作为副本放置候选节点,选择对于新加入元素St的废弃度最高的Dt2作为副本放置候选节点;若Dt1与Dt2为相同节点,且不存放有St的原始数据,则只存放一份副本;若Dt1与Dt2为相同节点,且存放有St的原始数据,则在不包含Dt1与Dt2的集合中随机选择一个节点作为副本放置候选节点;若Dt1与Dt2为不同节点,Dt1存放有St的原始数据,则只选Dt2为副本放置候选节点;若Dt1与Dt2为不同节点,Dt2存放有St的原始数据,则只选Dt1为副本放置候选节点;
检查副本放置候选节点的存储负载率是否低于100%,若低于100%,则选择该候选节点为副本放置节点,在该节点放置副本;否则,对St屏蔽掉该候选节点并返回,继续寻找满足条件的Data节点作为副本放置节点;返回两个副本放置候选节点时,若存在至少一个候选节点的存储负载率低于100%,则结束探寻,在符合条件的Data节点上放置副本;
Data节点返回操作结果到Consistence节点,Consistence节点将集合S的数据信息更新,返回最新的元数据信息到Master节点;
步骤4,创建副本后,检测放置该副本的数据节点的存储负载率是否达到90%,若达到90%则进行负载调整;否则,结束本次数据备份过程。
3.根据权利要求2所述的针对社交类云存储网络应用的数据备份方法,其特征在于:步骤2所述的预测节点存储负载率由90%降到80%可能性的方法为存储平衡预测方法,具体包括以下步骤:
设云存储系统内所有数据节点的集合为A{A1,A2,A3...An},μ为负载调整前某一节点的存储负载率,ω为负载调整后该节点的存储负载率,D_Capacity为该数据节点的存储总量,T_Capacity为需要调整的数据节点要减少的存储量,则:
T_Capacity=D_Capacity·(μ-ω)
若存在集合At{At1,At2,At3...Atn},At为A的子集,使得以下式子成立:
At1_Capacity+T_Capacity·η1≤At1_All_Capacity·μ
At2_Capacity+T_Capacity·η2≤At2_All_Capacity·μ
At3_Capacity+T_Capacity·η3≤At3_All_Capacity·μ
·
·
·
Atn_Capacity+T_Capacity·ηn≤Atn_All_Capacity·μ
η1+η2+η3...+ηn=1
η1,η2,η3...,ηn为小于或等于1的数,Ati_Capacity为At集合中Ati(i=1,2,…,n)节点的已使用存储容量,Ati_All_Capacity为At集合中Ati节点的总存储容量;
则认为系统内经过负载调整可以达到存储负载率的平衡,并返回满足条件情况下包含最多Data节点的集合;否则,认为系统没有进行负载调整的必要。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京工业大学,未经北京工业大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201210551527.4/1.html,转载请声明来源钻瓜专利网。