[发明专利]数据仓库的冷热数据识别方法、装置及电子设备有效

专利信息
申请号: 202011603968.5 申请日: 2020-12-29
公开(公告)号: CN113064930B 公开(公告)日: 2023-04-28
发明(设计)人: 邓娟;刘晓斌;董宇 申请(专利权)人: 中国移动通信集团贵州有限公司;中国移动通信集团有限公司
主分类号: G06F16/2458 分类号: G06F16/2458;G06F16/28
代理公司: 北京国昊天诚知识产权代理有限公司 11315 代理人: 徐晨影;朱文杰
地址: 550081 贵*** 国省代码: 贵州;52
权利要求书: 查看更多 说明书: 查看更多
摘要:
搜索关键词: 数据仓库 冷热 数据 识别 方法 装置 电子设备
【说明书】:

本申请公开了一种数据仓库的冷热数据识别方法、装置及电子设备,以至少解决现有技术中的冷热数据识别方法存在的识别效率和准确率低的问题。所述方法包括:获取数据仓库中的业务数据表在指定统计周期内的历史访问记录;基于所述指定统计周期内的历史访问记录,确定所述业务数据表的处理周期及在所述指定统计周期内的访问频率信息;基于预先建立的冷热数据识别模型和所述业务数据表的处理周期、在所述指定统计周期内的访问频率信息及所述指定统计周期,确定所述业务数据表在所述指定统计周期内的冷热数据分界时间点;基于所述冷热数据分界时间点,识别所述业务数据表中的冷数据和热数据。

技术领域

本申请涉及计算机技术领域,尤其涉及一种数据仓库的冷热数据识别方法、装置及电子设备。

背景技术

数据仓库(Data Warehouse,DW)出于企业的分析性报告和决策支持多点目的而创建的一个数据存储集合,其用于对多样的业务数据进行筛选与整合。数据仓库具有业务数据量大、种类多样等特征。如何有效识别数据仓库中业务数据的冷热属性,以便对不同属性的业务数据进行分离存储、备份或者销毁等处理,对于数据仓库的管理尤为重要。

目前,对数据仓库中业务数据的冷热属性的识别,主要通过人工逐个统计各个业务数据的访问情况,根据统计结果来区分业务数据的冷热属性,比如,如果某个业务数据频繁被访问,则可将该业务数据作为热数据,反之,则可将该业务数据作为冷数据。可见,现有技术中的冷热数据识别方法主要依赖于业务人员的经验,因而识别结果的准确率无法得到保证。并且,随着数据仓库对接的业务规模的数量级不断增大,数据仓库中的业务数据的数据量也会急剧增长,若通过人工逐个统计业务数据的访问情况,将会影响识别效率。

发明内容

本申请实施例提供一种数据仓库的冷热数据识别方法、装置及电子设备,以至少解决现有技术中的冷热数据识别方法存在的识别效率和准确率低的问题。

为了解决上述技术问题,本申请实施例采用下述技术方案:

第一方面,本申请实施例提供一种数据仓库的冷热数据识别方法,包括:

获取数据仓库中的业务数据表在指定统计周期内的历史访问记录;

基于所述指定统计周期内的历史访问记录,确定所述业务数据表的处理周期及在所述指定统计周期内的访问频率信息;

基于预先建立的冷热数据识别模型和所述业务数据表的处理周期、在所述指定统计周期内的访问频率信息及所述指定统计周期,确定所述业务数据表在所述指定统计周期内的冷热数据分界时间点;

基于所述冷热数据分界时间点,识别所述业务数据表中的冷数据和热数据。

可选地,所述访问频率信息包括总访问频率和在所述指定统计周期的各个子周期内的访问频率;

基于预先建立的冷热数据识别模型和所述业务数据表的处理周期、在所述指定统计周期内的访问频率信息及所述指定统计周期,确定所述业务数据表在所述指定统计周期内的冷热数据分界时间点,包括:

将所述业务数据表的处理周期、所述指定统计周期及在所述指定统计周期内的总访问频率输入到所述冷热数据识别模型,以得到所述业务数据表的冷热数据比例,其中,所述冷热数据识别模型是以样本数据表的处理周期、在统计周期内的总访问频率及统计周期作为训练样本,以所述样本数据表的冷热数据比例作为标签,基于预设的第一分类算法进行训练得到;

基于所述冷热数据比例和所述业务数据表在所述指定统计周期内的总访问频率,确定与所述业务数据表相匹配的访问频率阈值;

基于所述访问频率阈值和所述业务数据表在所述指定统计周期的各个子周期内的访问频率,确定所述业务数据表在所述指定统计周期内的冷热数据分界时间点。

下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。

该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于中国移动通信集团贵州有限公司;中国移动通信集团有限公司,未经中国移动通信集团贵州有限公司;中国移动通信集团有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服

本文链接:http://www.vipzhuanli.com/pat/books/202011603968.5/2.html,转载请声明来源钻瓜专利网。

×

专利文献下载

说明:

1、专利原文基于中国国家知识产权局专利说明书;

2、支持发明专利 、实用新型专利、外观设计专利(升级中);

3、专利数据每周两次同步更新,支持Adobe PDF格式;

4、内容包括专利技术的结构示意图流程工艺图技术构造图

5、已全新升级为极速版,下载速度显著提升!欢迎使用!

请您登陆后,进行下载,点击【登陆】 【注册】

关于我们 寻求报道 投稿须知 广告合作 版权声明 网站地图 友情链接 企业标识 联系我们

钻瓜专利网在线咨询

周一至周五 9:00-18:00

咨询在线客服咨询在线客服
tel code back_top