[发明专利]一种数据仓库引擎在审
申请号: | 202111325219.5 | 申请日: | 2021-11-10 |
公开(公告)号: | CN114048273A | 公开(公告)日: | 2022-02-15 |
发明(设计)人: | 朱建生 | 申请(专利权)人: | 伙伴智慧(北京)信息技术有限公司 |
主分类号: | G06F16/28 | 分类号: | G06F16/28;G06F16/21 |
代理公司: | 北京圣州专利代理事务所(普通合伙) 11818 | 代理人: | 朱芳斌 |
地址: | 100085 北京市海淀*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 数据仓库 引擎 | ||
1.一种数据仓库引擎,其特征在于:分为任务下发区和配置写入区,任务下发区包括手动同步模块、自动同步模块、反向同步模块、表格存储引擎模块、计算分发模块和聚合计算模块,配置写入区包括计算树模块、聚合表配置模块;表格存储引擎模块用于对数仓数据进行管理;
手动同步模块将计算任务下发至计算分发模块的队列内,并在计算任务完成后将计算任务增量读取写入数仓;自动同步模块读取计算任务,依据任务类型形成索引结构,然后重新写入数仓;计算分发模块对计算任务过滤,然后将需要计算的计算任务依照分发策略下发至进程;聚合计算模块读取计算树模块的租户计算树并计算唯一标识,读取聚合表配置模块的单表计算SQL语句,依据唯一标识和SQL语句完成计算任务;反向同步模块将计算任务的计算结果同步回数仓;聚合表配置模块用于供用户写入配置文件,计算树模块读取聚合表配置模块的单表配置,更新计算树。
2.根据权利要求1所述的数据仓库引擎,其特征在于:所述聚合表配置模块将聚合表不同节点的用户配置信息形成JSON文件,依据JSON文件生成单表计算SQL语句和参数。
3.根据权利要求1所述的数据仓库引擎,其特征在于:所述聚合表配置模块设置有节点简化功能和数据检测功能;节点简化功能根据聚合表配置节点,自动完成计算节点的简化、合并;数据检测功能当聚合表存在连接节点时,自动对SQL进行笛卡尔积检测,防止数据膨胀。
4.根据权利要求1所述的数据仓库引擎,其特征在于:所述数仓分为计算集群和展示集群,均使用greenplum作为基础数据库。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于伙伴智慧(北京)信息技术有限公司,未经伙伴智慧(北京)信息技术有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202111325219.5/1.html,转载请声明来源钻瓜专利网。
- 上一篇:食品的效期管理系统和效期管理方法
- 下一篇:自动配餐设备的输送控制系统和方法