[发明专利]FP-Growth优化算法、存储介质及电子装置在审
申请号: | 202010856878.0 | 申请日: | 2020-08-24 |
公开(公告)号: | CN112084012A | 公开(公告)日: | 2020-12-15 |
发明(设计)人: | 汪月;刘建辉;乔智;李亚飞;孙军锋 | 申请(专利权)人: | 北京明略昭辉科技有限公司 |
主分类号: | G06F9/46 | 分类号: | G06F9/46;G06F16/182 |
代理公司: | 青岛清泰联信知识产权代理有限公司 37256 | 代理人: | 李祺 |
地址: | 100089 北京市海淀区*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | fp growth 优化 算法 存储 介质 电子 装置 | ||
1.一种FP-Growth优化算法,其特征在于,包括:
步骤S1:将事物集转换成弹性数据集,利用所述弹性数据集的键值对操作事务构成键值对;
步骤S2:在键值对集合上进行操作构成频繁项集;
步骤S3:通过优化分组的策略对频繁项集进行S行分组形成列表组;
步骤S4:将列表组中的事务分布到各节点,再在各节点利用优化的项头表结构并行挖掘生成频繁模式序列;
步骤S5:将频繁模式序列转换格式合并后写入到分布式文件系统,逐层生成频繁模式序列时,逐层生成强关联规则。
2.如权利要求1所述的FP-Growth优化算法,其特征在于,所述步骤S1中包括:
步骤S11:将事物集转换成弹性数据集;
步骤S12:在弹性数据集上对事务进行map和reduceByKey操作,构成TransTransactions,times键值对,其中Transactions事务,times是事务出现的次数。
3.如权利要求2所述的FP-Growth优化算法,其特征在于,所述步骤S2包括:
步骤S21:将TransTransactions,times键值对进行flflatMap操作,把TransTransactions,times键值对中的事务分成多个事务集;
步骤S22:利用reduceByKey操作生成item,support键值对,item表示事务集,support表示支持度计数;
步骤S23:经弹性数据集的collect、toArray操作,将弹性数据集输出成list格式,按照降序排序,过滤掉最小支持度项后得到频繁项集。
4.如权利要求3所述的FP-Growth优化算法,其特征在于,所述步骤S3包括:
步骤S31:根据频繁项集把TransTransactions,times键值对中的事务重新排序并过滤掉非频繁项;
步骤S32:在排序过滤后的分组基础上,根据再按优化分组的策略将事务集均衡S形分组得到新的分组B_list;
步骤S33:在新的分组B_list中对TransTransactions,times键值对中的事务进行分组获得列表组Group_list:groupid,super_Trans,其中,groupid为组号,super_Trans为属于该组的事务集。
5.如权利要求4所述的FP-Growth优化算法,其特征在于,所述步骤S4中将列表组Group_list中的事务分布到各节点,利用flflapMap调用FP-Growth算法,构建FP-Tree,再在各节点利用优化的项头表结构并行递归挖掘FP-Tree,生成频繁模式序列。
6.如权利要求5所述的FP-Growth优化算法,其特征在于,优化的项头表结构包括哈希查找表,利用Hash算法进行优化。
7.如权利要求6所述的FP-Growth优化算法,其特征在于,优化的项头表结构的链表指向布尔值,当指向的布尔指针指向True时,说明属于此次扫描的事务项,再将此事务插入FP-Tree,设置项表头结构的布尔值为True,继续扫描下一事务,直至布尔值为False为止,排序时根据项目名查找哈希查找表,找出下标值,且设置对应的布尔值为True;
优化的项头表结构的Flag标签有True、False两种值,单一路径时频繁模式树是True,不是单一路径则为False。
8.如权利要求5所述的FP-Growth优化算法,其特征在于,所述步骤S5中,将频繁模式序列转码合并写入分布式文件系统,先产生后项是一项的关联规则,再两两合并后项,由两项的候选关联规则生成后项,依次反复逐层生成强关联规则。
9.一种计算机可读的存储介质,其特征在于,所述计算机可读的存储介质包括存储的程序,其中,所述程序运行时执行上述权利要求1至8任一项中所述的FP-Growth优化算法。
10.一种电子装置,包括存储器和处理器,其特征在于,所述存储器中存储有计算机程序,所述处理器被设置为通过所述计算机程序执行所述权利要求1至8任一项中所述的FP-Growth优化算法。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京明略昭辉科技有限公司,未经北京明略昭辉科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202010856878.0/1.html,转载请声明来源钻瓜专利网。