[发明专利]数据仓库模型的构建方法和构建装置有效
申请号: | 201610038046.1 | 申请日: | 2016-01-20 |
公开(公告)号: | CN105718565B | 公开(公告)日: | 2019-07-02 |
发明(设计)人: | 董月红;孙冬 | 申请(专利权)人: | 北京京东尚科信息技术有限公司;北京京东世纪贸易有限公司 |
主分类号: | G06F16/21 | 分类号: | G06F16/21;G06F16/25 |
代理公司: | 中原信达知识产权代理有限责任公司 11219 | 代理人: | 张一军;姜劲 |
地址: | 100080 北京市海淀区杏石口路6*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 数据仓库 模型 构建 方法 装置 | ||
本发明提供一种数据仓库模型的构建方法和构建装置,能够利用业务数据指标的活跃度分析,来达到快速构建数据仓库模型的目的。本发明的数据仓库模型的构建方法包括:确定给定时间段内的业务数据指标中的活跃指标,通过在所述给定时间段内计数每个业务数据指标的调用次数,当该业务数据指标的调用次数大于预定的活跃度限值时,则确定该业务数据指标为活跃指标;对所述活跃指标进行业务场景需求分析,以生成逻辑模型;根据所述逻辑模型,加工所述活跃指标对应的数据并保存到数据仓库。
技术领域
本发明涉及计算机及其软件技术领域,特别地涉及一种数据仓库模型的构建方法和构建装置。
背景技术
随着电子商务企业的快速发展,例如京东、淘宝、亚马逊等的快速崛起,电商企业日常运营中生成、累积的大量用户、商品、以及生产相关的数据已呈现爆发式增长,并且数据结构也开始多元化,相应数据含有的信息量也越来越多。因此,电商企业对数据化运营也越来越关注。
数据仓库作为数据的集合,主要用于对数据进行分区处理工作,发挥着巨大的作用。然而,大数据时代的降临,数据仓库慢慢转成分布式架构,以满足爆发式增长的计算及存储的要求。基于传统行业(例如,银行、保险、零售等)的数据仓库模型的构建方法已经非常的成熟,亦即企业对终端客户的电子商务B2C(Business-to-Customer)业务的数据仓库模型的构建方法已很成熟。
例如:在传统的数据仓库基础之上,结合具体的业务情况,零售企业的数据仓库的构建过程一般是首先进行业务场景的需求分析,以生成业务模型,然后对业务模型抽象处理得到领域模型,再为领域模型赋予实体及实体间的逻辑关系得到逻辑模型,最后是将逻辑模型落地实施,即:生成物理模型。
在生成物理模型的过程中,最重要的是利用数据库集群和传统的数据仓库建模方法论,进行数据的加工处理,以实现数据分层。该过程主要包括以下步骤:
1、构建stage层,通过ETL过程(ETL,是Extract-Transform-Load的缩写,用来描述将数据从来源端经过抽取extract、转换transform、加载load至目的端的过程),抽取源生产系统的数据;
2、构建ods层,ODS(Operational Data Store,操作性数据存储区)层是数据整合层,通过对stage层的数据进行清洗和加工,以发现并纠正数据文件中可识别的错误,并将数据转换到ods预先定义的表中;
3、构建dwd层,dwd层是数据仓库的细节数据层,基于逻辑模型,搭建实体表及实体表的关系;
4、构建dwa层,dwa层是数据仓库的数据汇总层,基于主题模型和逻辑关系,将dwd层数据,加工到本层。
生成物理模型后,整个数据仓库的模型已经全部完成,我们可以按照自己的设计来针对当前的业务场景创建满足自己需要的数据模型来。
然而,传统的数据仓库建模方法仍存在一些缺陷,主要表现在:
1、传统的数据仓库建模,按主题、逻辑等方面进行建模,虽然可以涵盖主要的业务指标,但随着电子商务的业务的高速发展,现有的数据仓库模型的构建方法,已无法快速响应业务的快速变化;
2、传统的数据仓库建模,层级之间依赖关系复杂,模型变更繁琐。
由此,本发明基于电子商务B2C业务的传统的数据仓库模型构建方法的基础上,通过对业务指标的进行热度分析,快速构建新的数据仓库模型。
发明内容
有鉴于此,本发明提供一种数据仓库模型的构建方法和构建装置,能够利用业务数据指标的活跃度分析,来达到快速构建数据仓库模型的目的。
为实现上述目的,根据本发明的一个方面,提供了一种数据仓库模型的构建方法。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京京东尚科信息技术有限公司;北京京东世纪贸易有限公司,未经北京京东尚科信息技术有限公司;北京京东世纪贸易有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201610038046.1/2.html,转载请声明来源钻瓜专利网。