[发明专利]一种数据发布系统、方法、装置、电子设备及存储介质有效

专利信息
申请号: 202110945482.8 申请日: 2021-08-17
公开(公告)号: CN113656144B 公开(公告)日: 2023-08-11
发明(设计)人: 楚振江;冀向阳;宋晓东;侯京超;汪瑫 申请(专利权)人: 百度在线网络技术(北京)有限公司
主分类号: G06F9/455 分类号: G06F9/455
代理公司: 北京柏杉松知识产权代理事务所(普通合伙) 11413 代理人: 项京;马敬
地址: 100085 北京市*** 国省代码: 北京;11
权利要求书: 查看更多 说明书: 查看更多
摘要:
搜索关键词: 一种 数据 发布 系统 方法 装置 电子设备 存储 介质
【权利要求书】:

1.一种数据发布系统,包括:

驱动控制模块,用于获得数据发布任务,基于发布任务中的目标业务应用,确定运行各个目标业务应用的容器所在容器集群中的目标主控服务模块;并将所述发布任务发送至各个目标主控服务模块;

所述目标主控服务模块,用于接收所述数据发布任务,将数据发布任务中包含的:目标数据的发布版本信息和发布目标地址信息发送至各个设置在容器中的代理服务模块;其中,所述目标数据包括全量数据或增量数据;

所述代理服务模块,用于基于所述发布版本信息和发布目标地址信息,下载新版本数据存储至其所在的容器中;

发布任务构建模块,用于根据所述目标数据是否为分片数据,确定目标数据发布模式为组合模式或组合分片模式;基于目标数据发布模式,从预设的多个发布模板中确定与目标发布模式对应的目标模板;基于目标模板及目标业务应用,构建数据发布任务。

2.根据权利要求1所述的系统,

发布任务构建模块,具体用于对数据源进行监测,在监测到数据源产生了全量或增量新版本数据的情况下,将全量或增量新版本数据作为目标数据,基于目标数据对应的发布版本信息和目标业务应用,构建数据发布任务;将所述数据发布任务发送至所述驱动控制模块。

3.根据权利要求1所述的系统,所述系统还包括:数据中心;

所述数据中心,用于存储预设的多个发布模板;

所述发布任务构建模块,从所述数据中心获得预设的多个发布模板。

4.根据权利要求2所述的系统,其中,

所述发布任务构建模块,具体用于当目标数据为新版本增量数据的情况下,基于已发布的各个增量数据的版本信息和全量数据的版本信息之间的依赖关系,对新版本增量数据进行判断;若该新版本增量数据的版本为已发布的版本或比已发布的版本低,则将该新版本增量数据丢弃,若该新版本增量数据的版本不为已发布的版本或比已发布的版本高,则将该新版本增量数据的发布版本信息及发布目标地址添加到数据发布任务中。

5.根据权利要求4所述的系统,其中,

所述全量数据的版本信息包含:该全量数据的版本标识;增量数据的版本信息包括:该增量数据所依赖的全量数据的版本标识和该增量数据的版本标识;

所述发布任务构建模块,基于增量数据版本信息中该增量数据所依赖的全量数据的版本标识和该增量数据的版本标识,对新版本增量数据进行判断。

6.根据权利要求1所述的系统,其中,

所述数据发布任务中,还包括:需要执行的发布阶段信息;所述发布阶段信息包括:多个发布阶段及各个发布阶段的执行顺序;

所述驱动控制模块,按照所述发布阶段的执行顺序,针对当前发布阶段,从执行所述目标业务应用的容器集群中确定出该发布阶段对应的目标容器集群;将该目标容器集群中的主控服务模块,确定为目标主控服务模块。

7.根据权利要求1所述的系统,其中,

所述主控服务模块,还用于基于所述数据发布任务、所述代理服务模块上报的当前版本信息及数据状态信息,和已存储的数据版本信息,确定目标版本信息;并基于目标版本信息,生成针对目标数据的数据状态驱动信息发送至所述代理服务模块;

所述代理服务模块,具体用于基于所述发布版本信息和发布目标地址信息,按照所述数据状态驱动信息中的各个执行步骤及执行顺序,下载所述目标数据存储至其所在的容器中。

8.根据权利要求7所述的系统,其中,

每个所述容器集群中,还包括:供主控服务模块监听使用的监听数据库和供主控服务模块查询使用的查询数据库;

所述监听数据库,用于存储主控服务模块所有要监听的容器实例组名称;

所述主控服务模块接收的各个容器的当前数据状态信息为:所述监听数据库中每个容器实例组名称对应的容器的当前数据状态信息;

所述查询数据库,用于存储各个容器中各个数据的最高版本信息;

所述主控服务模块,基于各个容器的当前数据状态信息和查询数据库中各个数据的最高版本信息进行逻辑对比的结果,确定目标版本信息。

下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。

该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于百度在线网络技术(北京)有限公司,未经百度在线网络技术(北京)有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服

本文链接:http://www.vipzhuanli.com/pat/books/202110945482.8/1.html,转载请声明来源钻瓜专利网。

×

专利文献下载

说明:

1、专利原文基于中国国家知识产权局专利说明书;

2、支持发明专利 、实用新型专利、外观设计专利(升级中);

3、专利数据每周两次同步更新,支持Adobe PDF格式;

4、内容包括专利技术的结构示意图流程工艺图技术构造图

5、已全新升级为极速版,下载速度显著提升!欢迎使用!

请您登陆后,进行下载,点击【登陆】 【注册】

关于我们 寻求报道 投稿须知 广告合作 版权声明 网站地图 友情链接 企业标识 联系我们

钻瓜专利网在线咨询

周一至周五 9:00-18:00

咨询在线客服咨询在线客服
tel code back_top