[发明专利]一种调整数据分片分布的方法及数据服务器有效
申请号: | 201511024615.9 | 申请日: | 2015-12-30 |
公开(公告)号: | CN106933868B | 公开(公告)日: | 2020-04-24 |
发明(设计)人: | 张海勇;陆靖;姚文辉;董乘宇;朱家稷 | 申请(专利权)人: | 阿里巴巴集团控股有限公司 |
主分类号: | G06F16/13 | 分类号: | G06F16/13;G06F3/06;H04L29/08 |
代理公司: | 北京睿博行远知识产权代理有限公司 11297 | 代理人: | 龚家骅 |
地址: | 英属开曼群岛大开*** | 国省代码: | 暂无信息 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 调整 数据 分片 分布 方法 服务器 | ||
1.一种调整数据分片分布的方法,其特征在于,所述方法应用于包括多个数据中心的分布式文件存储系统中,待处理数据分片的多个副本存储于所述分布式文件存储系统中的一个或多个数据中心,该方法包括:
当到达与所述待处理数据分片对应的调整时刻时,获取所述待处理数据分片的访问频度信息;
根据所述访问频度信息以及预设的收益函数确定所述数据分片对应各所述数据中心的收益数据;
根据各所述数据中心的收益数据以及所述副本的数量生成最优分布信息;
按照所述最优分布信息对各所述副本在各所述数据中心的位置进行调整。
2.如权利要求1所述的方法,其特征在于,当到达与所述待处理数据分片对应的调整时刻时,获取所述待处理数据分片的访问频度信息,具体为:
在根据预设的时间周期确定当前时刻为调整时刻时,获取所述时间周期内各所述数据中心上报的子访问频度信息;
或,在接收到调整触发消息时,获取在预设的时间周期内各所述数据中心上报的子访问频度信息。
3.如权利要求1所述的方法,其特征在于,所述访问频度信息由所述待处理数据分片在各所述数据中心的子访问频度信息组成,所述子访问频度信息至少包括数据分片大小、从与所述子访问频度信息对应的数据中心访问所述数据分片的访问次数、所述数据分片从所述数据中心所产生的数据流量,以及平均跨机房带宽。
4.如权利要求3所述的方法,其特征在于,所述收益数据与所述访问次数、所述数据流量以及所述平均跨机房带宽成正比,以及与所述数据分片大小成反比。
5.如权利要求1所述的方法,其特征在于,根据各所述数据中心的收益数据以及所述副本的数量生成最优分布信息,具体为:
按照收益数据从大到小的顺序依次排列所述数据中心;
获取与所述副本的数量相同的排名之内的数据中心的标识,并将已获取的标识作为所述最优分布信息。
6.如权利要求5所述的方法,其特征在于,按照所述最优分布信息对各所述副本在各所述数据中心的位置进行调整,具体为:
获取所述数据分片的实时分布信息,所述实时分布信息由各所述副本当前所在的数据中心的标识组成;
判断所述实时分布信息是否与所述最优分布信息一致;
若所述实时分布信息与所述最优分布信息不一致,根据所述实时分布信息与所述最优分布信息中不相同的标识生成数据复制任务,以将各所述副本存储至与所述最优分布信息中的标识对应的数据中心。
7.如权利要求6所述的方法,其特征在于,还包括:
所述访问次数在所述数据中心将客户端所请求的数据分片对应的副本返回给所述客户端之前加一;
所述数据流量在所述数据中心将客户端所请求的数据分片对应的副本返回给所述客户端之前增加所述副本的数据量。
8.如权利要求7所述的方法,其特征在于,还包括:
当接收到用户通过所述客户端发送的数据写入请求时,获取所述数据写入请求中携带的待写入数据分片,并判断所述数据写入请求中是否还携带写入选项信息;
若所述数据写入请求携带跨数据中心分布的写入选项信息,按照所述用户指定的分布信息确定用于分配所述待写入数据分片的数据中心,并将确定结果返回至所述客户端,以使所述客户端按照所述确定结果写入所述待写入数据分片;
若所述数据写入请求携带默认写入选项信息或未携带任何写入选项信息,根据所述数据写入请求中携带的所述客户端所在的数据中心的标识确定用于分配所述待写入数据分片的数据中心,并将确定结果返回至所述客户端,以使所述客户端按照所述确定结果写入所述待写入数据分片。
9.如权利要求8所述的方法,其特征在于,还包括:
当接收到所述用户通过所述客户端发送的数据读取请求时,将所述数据读取请求对应的数据分片的分布信息返回至所述客户端,以使所述客户端根据所述分布信息选择与自身所在的数据中心对应的数据分片进行读取。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于阿里巴巴集团控股有限公司,未经阿里巴巴集团控股有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201511024615.9/1.html,转载请声明来源钻瓜专利网。
- 上一篇:伴生气处理装置
- 下一篇:一种实木家具原味香油提取装置
- 数据显示系统、数据中继设备、数据中继方法、数据系统、接收设备和数据读取方法
- 数据记录方法、数据记录装置、数据记录媒体、数据重播方法和数据重播装置
- 数据发送方法、数据发送系统、数据发送装置以及数据结构
- 数据显示系统、数据中继设备、数据中继方法及数据系统
- 数据嵌入装置、数据嵌入方法、数据提取装置及数据提取方法
- 数据管理装置、数据编辑装置、数据阅览装置、数据管理方法、数据编辑方法以及数据阅览方法
- 数据发送和数据接收设备、数据发送和数据接收方法
- 数据发送装置、数据接收装置、数据收发系统、数据发送方法、数据接收方法和数据收发方法
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置