[发明专利]一种基于位图数据结构的数据分析方法及装置有效

专利信息
申请号: 201710872848.7 申请日: 2017-09-25
公开(公告)号: CN107622121B 公开(公告)日: 2020-06-23
发明(设计)人: 刘东岳;吴斌;王柏;卜尧;郭志红;杨祎;马艳;辜超;白德盟;林颖;秦佳峰 申请(专利权)人: 北京邮电大学
主分类号: G06F16/2458 分类号: G06F16/2458
代理公司: 北京柏杉松知识产权代理事务所(普通合伙) 11413 代理人: 马敬;项京
地址: 100876 *** 国省代码: 北京;11
权利要求书: 查看更多 说明书: 查看更多
摘要:
搜索关键词: 一种 基于 位图 数据结构 数据 分析 方法 装置
【权利要求书】:

1.一种基于位图数据结构的数据分析方法,其特征在于,应用于分布式系统所包含分布式子节点中的一个分布式子节点,所述分布式系统包括:主节点和分布式子节点,所述方法包括:

获得所述主节点分配的第一事务子集合,其中,所述第一事务子集合为:事务集合的子集合;

获得所述事务集合中事务的总数目及所述事务集合中事务的排序;

根据所述排序,确定每一目标项目对应的位图数据,其中,一个目标项目对应的位图数据的每一比特位,按照所述排序与所述事务集合中的一个事务对应,每一比特位的取值表示该比特位所对应的事务是否为该目标项目的关联事务;目标项目为:所述第一事务子集合中各个事务包含的项目;一个目标项目的关联事务为:所述事务集合中包括该目标项目的事务;

分别统计每一目标项目对应的位图数据中第一数据与所述总数目之间的比例,并根据统计的比例确定目标项目中的频繁1项集,其中,所述第一数据为:位图数据中项目的关联事务对应的比特位的取值;

将为频繁1项集的目标项目和为频繁1项集的目标项目的位图数据,广播至所述主节点和其他分布式子节点;

接收统计项目和所述统计项目的位图数据,其中,所述统计项目是其他分布式子节点基于所述主节点分配的第二事务子集合统计得到的,所述第一事务子集合与各个第二事务子集合的并集为所述事务集合;

基于接收到的统计项目、统计项目的位图数据和为频繁1项集的目标项目的位图数据,计算目标项集是否为频繁项集,其中,所述目标项集中包含至少两个项目;

若所述目标项集为频繁项集,确定所述目标项集中各个项目之间的关联规则;

所述根据所述排序,确定每一目标项目对应的位图数据的步骤,包括:

针对每一目标项目,基于所述第一事务子集合中包括该目标项目的事务、第二事务子集合中包括该目标项目的事务和预设的映射关系,将包括该目标项目的事务对应的比特位的取值设置为第一数据,将不包括该目标项目的事务对应的比特位的取值设置为第二数据,得到该目标项目的位图数据,其中,所述映射关系为:按照所述排序确定的、位图数据中比特位与所述事务集合中事务的对应关系。

2.根据权利要求1所述的方法,其特征在于,所述第一数据为1,所述第二数据为0。

3.根据权利要求1所述的方法,其特征在于,在所述计算目标项集是否为频繁项集的步骤之前,所述方法还包括:

接收所述主节点发送的针对目标项集的统计指令。

4.根据权利要求1所述的方法,其特征在于,在所述根据所述排序,确定每一目标项目对应的位图数据的步骤之后,所述方法还包括:

将每一目标项目对应的位图数据压缩为压缩位图数据;

所述将为频繁1项集的目标项目和为频繁1项集的目标项目的位图数据,广播至所述主节点和所述其他分布式子节点的步骤,包括:

将为频繁1项集的目标项目和为频繁1项集的目标项目的压缩位图数据,广播至所述主节点和所述其他分布式子节点。

下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。

该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京邮电大学,未经北京邮电大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服

本文链接:http://www.vipzhuanli.com/pat/books/201710872848.7/1.html,转载请声明来源钻瓜专利网。

×

专利文献下载

说明:

1、专利原文基于中国国家知识产权局专利说明书;

2、支持发明专利 、实用新型专利、外观设计专利(升级中);

3、专利数据每周两次同步更新,支持Adobe PDF格式;

4、内容包括专利技术的结构示意图流程工艺图技术构造图

5、已全新升级为极速版,下载速度显著提升!欢迎使用!

请您登陆后,进行下载,点击【登陆】 【注册】

关于我们 寻求报道 投稿须知 广告合作 版权声明 网站地图 友情链接 企业标识 联系我们

钻瓜专利网在线咨询

周一至周五 9:00-18:00

咨询在线客服咨询在线客服
tel code back_top