[发明专利]用于处理数据的方法、装置、设备和可读存储介质有效
申请号: | 202110737890.4 | 申请日: | 2021-06-30 |
公开(公告)号: | CN113687846B | 公开(公告)日: | 2023-07-18 |
发明(设计)人: | 楚振江;宋晓东;冀向阳;侯京超;汪瑫 | 申请(专利权)人: | 北京百度网讯科技有限公司 |
主分类号: | G06F8/65 | 分类号: | G06F8/65;G06F8/71;G06F16/14;H04L67/06 |
代理公司: | 北京市金杜律师事务所 11256 | 代理人: | 赵林琳;姚杰 |
地址: | 100094 北京市*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 用于 处理 数据 方法 装置 设备 可读 存储 介质 | ||
1.一种用于处理数据的方法,包括:
在第一服务器处获取由数据源产生的新版本数据的分配信息,所述分配信息包括所述新版本数据被划分成的多个数据分片的多个存储地址和与针对所述新版本数据的多个有序操作相对应的操作信息,以及与所述新版本数据的多个发布阶段中的每个发布阶段相对应的目标计算设备集群的目标集群标识;
使用所述多个数据分片中的数据分片的存储地址配置所述操作信息以生成针对所述数据分片的经配置的操作信息;
确定与所述多个有序操作中要完成的目标操作相对应的目标状态信息;以及
向第二服务器发送针对所述数据分片的所述经配置的操作信息和所述目标状态信息以用于处理所述数据分片;
其中确定所述目标状态信息包括:
针对每个发布阶段,确定与所述发布阶段相对应的目标集群标识;
确定所述多个有序操作中要完成的目标操作;以及
基于所述目标操作和所述目标集群标识生成所述目标状态信息。
2. 根据权利要求1所述的方法,其中配置所述操作信息包括:
从所述分配信息中获取针对所述数据分片的存储地址;以及
将所述存储地址关联到所述操作信息中的部分信息中以生成针对所述数据分片的所述经配置的操作信息,所述部分信息对应于所述多个有序操作中的下载操作。
3.根据权利要求1所述的方法,还包括:
获取与所述目标集群标识相对应的多个计算设备的当前状态信息,所述当前状态信息指示所述多个计算设备已完成的所述多个有序操作中的操作;
确定所述当前状态信息与所述目标状态信息是否匹配;
如果确定所述当前状态信息与所述目标状态信息匹配,将所述目标状态信息更新为与所述目标操作的下一操作相对应;以及
向第二服务器发送经更新的所述目标状态信息以用于完成所述下一操作。
4. 根据权利要求1所述的方法,还包括:
监测由所述数据源生成的数据的版本是否发生变化;以及
如果确定所述数据的版本发生变化,将所述新版本数据划分为所述多个数据分片。
5. 根据权利要求4所述的方法,其中将所述新版本数据划分为多个数据分片包括:
获取要生成的数据分片的预定数目;以及
基于所述预定数目来划分所述新版本数据。
6.一种用于处理数据的方法,包括:
在第二服务器处从第一服务器接收针对数据分片的经配置的操作信息和目标状态信息,所述数据分片来自对由数据源产生的新版本数据进行划分而生成的多个数据分片,所述经配置的操作信息与针对所述数据分片的多个有序操作有关,所述目标状态信息与所述多个有序操作中要完成的目标操作相对应;
响应于从第一计算设备接收到针对所述数据分片的第一心跳信息,向第一计算设备发送所述操作信息和所述目标状态信息,所述第一心跳信息包括针对所述数据分片的当前状态和所述第一计算设备所位于的参考计算设备集群的参考集群标识,所述目标状态信息包括与所述新版本数据的多个发布阶段中的每个发布阶段相对应的目标计算设备集群的目标集群标识;以及
利用所述数据分片的当前状态来更新所述第一计算设备的当前状态信息;
其中向第一计算设备发送所述操作信息和所述目标状态信息包括:
将所述参考集群标识与所述目标集群标识进行匹配;以及
如果确定所述参考集群标识与所述目标集群标识匹配,则向所述第一计算设备发送所述操作信息和所述目标状态信息。
7. 根据权利要求6所述的方法,还包括:
从所述第一服务器接收经更新的所述目标状态信息,经更新的所述目标状态信息与所述目标操作的下一操作相对应;以及
响应于接收到针对所述数据分片的第二心跳信息,向所述第一计算设备发送所述操作信息和经更新的所述目标状态信息以用于完成所述下一操作。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京百度网讯科技有限公司,未经北京百度网讯科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202110737890.4/1.html,转载请声明来源钻瓜专利网。
- 数据显示系统、数据中继设备、数据中继方法、数据系统、接收设备和数据读取方法
- 数据记录方法、数据记录装置、数据记录媒体、数据重播方法和数据重播装置
- 数据发送方法、数据发送系统、数据发送装置以及数据结构
- 数据显示系统、数据中继设备、数据中继方法及数据系统
- 数据嵌入装置、数据嵌入方法、数据提取装置及数据提取方法
- 数据管理装置、数据编辑装置、数据阅览装置、数据管理方法、数据编辑方法以及数据阅览方法
- 数据发送和数据接收设备、数据发送和数据接收方法
- 数据发送装置、数据接收装置、数据收发系统、数据发送方法、数据接收方法和数据收发方法
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置