[发明专利]针对社交类云存储网络应用的数据备份系统和方法有效

专利信息
申请号: 201210551527.4 申请日: 2012-12-18
公开(公告)号: CN102984280A 公开(公告)日: 2013-03-20
发明(设计)人: 王旭东;张建 申请(专利权)人: 北京工业大学
主分类号: H04L29/08 分类号: H04L29/08
代理公司: 北京思海天达知识产权代理有限公司 11203 代理人: 张慧
地址: 100124 *** 国省代码: 北京;11
权利要求书: 查看更多 说明书: 查看更多
摘要:
搜索关键词: 针对 社交 存储 网络 应用 数据 备份 系统 方法
【权利要求书】:

1.一种针对社交类云存储网络应用的数据备份系统,其特征在于,包括:

Master节点,元数据服务器,用户通过访问Master节点来获得Data节点的存储信息;为了防止Master节点单点失效的情况,系统内可以有多个辅助Master节点进行元数据的备份;

Consistence节点,负责保持系统内数据副本的一致性,它将已同步过副本的元数据信息提交给Master节点,使用户只可以访问到最后更新的数据,系统内可以有多个Consistence节点;

Data节点,数据存储服务器,存储用户的数据资源,理论上可以分布在世界上任何适宜的地点;

当用户上传数据资源时,用户连接到Master节点,发送上传数据资源的请求信息,Master节点返回距离用户地理位置最近且可用的Data节点信息,用户根据Master节点返回的信息上传资源到Data节点,Master节点更新元数据信息到Consistence节点,Data节点向用户返回处理的结果,并将元数据信息更新到Consistence节点,Consistence节点根据副本策略备份副本数据到适当的Data节点,并更新副本信息到Master节点;

当用户对已有数据资源进行读操作时,用户连接到Master节点,发送读数据请求,Master节点返回匹配的元数据信息,用户根据Master节点返回的信息访问Data节点并发送读数据请求,Data节点传输用户请求的数据;

当用户对已有数据资源进行写操作时,用户连接到Master节点,发送写数据请求,Master节点返回匹配的元数据信息,用户根据Master节点返回的信息访问Data节点并发送写数据请求,Data节点传输用户请求的数据并更新元数据信息到Consistence节点,Consistence节点协调各Data节点保持副本数据一致性,Consistence节点将更新的元数据传输到Master节点,Master节点返回更新结果,每次用户写资源后,由Consistence节点维护所有副本资源的数据一致性,Master节点只保存已确定更新一致性后的元数据。

2.一种针对社交类云存储网络应用的数据备份方法,其特征在于包括以下步骤:

步骤1,用户上传数据资源;

步骤2,Master节点返回存储负载率低于100%且距离用户位置最近的Data节点信息给用户,用户在该节点放置数据资源,Consistence节点检测放置该数据资源的数据节点的存储负载率是否达到90%,若达不到90%,直接跳到步骤3,进行副本创建;若达到90%,则按以下方法进行负载调整:

在Data节点存储负载率达到90%的情况下,Consistence节点开始动态调整数据资源的位置;

预测将节点存储负载率由90%降到80%的可能性,若负载调整可行,返回接收数据节点的集合At{At1,At2,At3...Atn};若不可行,则结束负载调整;

若经预测判断负载调整可行,对存储负载率达到90%的Data节点上所有数据资源按下式进行健康度计算:

其中,l为数据资源的健康度,为Data节点的废弃度,Copy_Use_Count为相应数据资源被使用的次数;

依据健康度l建立由小到大的链表;

对所建链表内的资源依次进行调整,直到待调整Data节点的存储负载率低于80%;

以集合At{At1,At2,At3...Atn}作为节点集合,以集合中Data节点存储负载率达到90%作为终结条件,依据如下的优先权放置调整的数据资源,同时删除原有数据资源:包含有同类型数据且废弃度低的Data节点,包含有同类型数据的Data节点,任意有空余空间的Data节点;

对所建链表内的资源依次进行调整,直到待调整Data节点的存储负载率低于80%;

Data节点返回更新操作的信息到Consistence节点,Consistence节点传输已保持一致性的Data节点信息到Master节点,更新Master节点的元数据信息;

步骤3,按以下方法创建副本:

Consistence节点获取由Master节点发送的元数据信息与用户地理位置信息;

Consistence节点按下式计算各个Data节点相对于用户的节点废弃度:

其中,为Data节点的废弃度,α为用户与Data节点之间距离的加权比,D_Bandwidth为Data节点接入网络的带宽,β为Data节点网络带宽的加权比,U_D_Distance为用户与Data节点之间距离,按下式计算:

U_D_Distance=(D_Location.x-U_Location.x)2+(D_Location.y-U_Location.y)2]]>

其中,D_Location.x为Data节点位置在平面地图上的横坐标,U_Location.x为用户位置在平面地图上的横坐标,D_Location.y为Data节点位置在平面地图上的纵坐标,U_Location.y为用户位置在平面地图上的纵坐标;

Consistence节点维护多个上传相同类型数据资源用户位置的数据集合S{S1,S2,S3...Sn},和系统内所有Data节点信息的数据集合D{D1,D2,D3...Dm};

当用户上传资源时,若该资源类型的用户位置数据集合为空,新加入元素St,则依次扫描Data节点位置的数据集合,选取废弃度最低的Data节点作为副本放置候选节点;若该Data节点存放有副本的原始数据,则选择废弃度最高的Data节点作为副本放置候选节点;若废弃度最低的Data节点与废弃度最高的Data节点为同一节点,则随机选择一个Data节点作为副本放置候选节点;

当用户上传资源时,若该资源类型的用户位置数据集合不空,且只有一个Data节点Dw作为该集合的副本放置节点,Dw上不存在St的原始数据,则选择Dw为新加入元素St的副本放置候选节点;若该Data节点存放有St的原始数据,则从D不包括Dw的集合中选择废弃度最低的Data节点作为副本放置候选节点;当该资源类型的用户位置数据集合不空,且有多个Data节点{Da,Db,Dc...}作为该集合的副本放置节点,依次扫描{Da,Db,Dc...}并做如下处理:选择对于新加入元素St的废弃度最低的Dt1作为副本放置候选节点,选择对于新加入元素St的废弃度最高的Dt2作为副本放置候选节点;若Dt1与Dt2为相同节点,且不存放有St的原始数据,则只存放一份副本;若Dt1与Dt2为相同节点,且存放有St的原始数据,则在不包含Dt1与Dt2的集合中随机选择一个节点作为副本放置候选节点;若Dt1与Dt2为不同节点,Dt1存放有St的原始数据,则只选Dt2为副本放置候选节点;若Dt1与Dt2为不同节点,Dt2存放有St的原始数据,则只选Dt1为副本放置候选节点;

检查副本放置候选节点的存储负载率是否低于100%,若低于100%,则选择该候选节点为副本放置节点,在该节点放置副本;否则,对St屏蔽掉该候选节点并返回,继续寻找满足条件的Data节点作为副本放置节点;返回两个副本放置候选节点时,若存在至少一个候选节点的存储负载率低于100%,则结束探寻,在符合条件的Data节点上放置副本;

Data节点返回操作结果到Consistence节点,Consistence节点将集合S的数据信息更新,返回最新的元数据信息到Master节点;

步骤4,创建副本后,检测放置该副本的数据节点的存储负载率是否达到90%,若达到90%则进行负载调整;否则,结束本次数据备份过程。

3.根据权利要求2所述的针对社交类云存储网络应用的数据备份方法,其特征在于:步骤2所述的预测节点存储负载率由90%降到80%可能性的方法为存储平衡预测方法,具体包括以下步骤:

设云存储系统内所有数据节点的集合为A{A1,A2,A3...An},μ为负载调整前某一节点的存储负载率,ω为负载调整后该节点的存储负载率,D_Capacity为该数据节点的存储总量,T_Capacity为需要调整的数据节点要减少的存储量,则:

T_Capacity=D_Capacity·(μ-ω)

若存在集合At{At1,At2,At3...Atn},At为A的子集,使得以下式子成立:

At1_Capacity+T_Capacity·η1≤At1_All_Capacity·μ

At2_Capacity+T_Capacity·η2≤At2_All_Capacity·μ

At3_Capacity+T_Capacity·η3≤At3_All_Capacity·μ

·

·

·

Atn_Capacity+T_Capacity·ηn≤Atn_All_Capacity·μ

η123...+ηn=1

η123...,ηn为小于或等于1的数,Ati_Capacity为At集合中Ati(i=1,2,…,n)节点的已使用存储容量,Ati_All_Capacity为At集合中Ati节点的总存储容量;

则认为系统内经过负载调整可以达到存储负载率的平衡,并返回满足条件情况下包含最多Data节点的集合;否则,认为系统没有进行负载调整的必要。

下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。

该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京工业大学,未经北京工业大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服

本文链接:http://www.vipzhuanli.com/pat/books/201210551527.4/1.html,转载请声明来源钻瓜专利网。

×

专利文献下载

说明:

1、专利原文基于中国国家知识产权局专利说明书;

2、支持发明专利 、实用新型专利、外观设计专利(升级中);

3、专利数据每周两次同步更新,支持Adobe PDF格式;

4、内容包括专利技术的结构示意图流程工艺图技术构造图

5、已全新升级为极速版,下载速度显著提升!欢迎使用!

请您登陆后,进行下载,点击【登陆】 【注册】

关于我们 寻求报道 投稿须知 广告合作 版权声明 网站地图 友情链接 企业标识 联系我们

钻瓜专利网在线咨询

周一至周五 9:00-18:00

咨询在线客服咨询在线客服
tel code back_top