[发明专利]一种实时数据分类统计方法、系统、可读介质及设备在审
申请号: | 202010847108.X | 申请日: | 2020-08-21 |
公开(公告)号: | CN112084387A | 公开(公告)日: | 2020-12-15 |
发明(设计)人: | 刘小苏;刘滨;王星宇 | 申请(专利权)人: | 上海微亿智造科技有限公司;常州微亿智造科技有限公司 |
主分类号: | G06F16/906 | 分类号: | G06F16/906;G06F16/953 |
代理公司: | 上海塔科专利代理事务所(普通合伙) 31380 | 代理人: | 耿恩华 |
地址: | 201100 上海*** | 国省代码: | 上海;31 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 实时 数据 分类 统计 方法 系统 可读 介质 设备 | ||
1.一种实时数据分类统计方法,其特征在于,包括:
由消息中间件kafka获取用户操作工业大数据平台系统而产生的实时操作数据;
采用Flink分布式流数据处理引擎对所述实时操作数据进行分类统计,得到对所述实时操作数据的分类统计结果;
采用Elasticsearch分布式全文搜索引擎对所述分类统计结果进行分类存储。
2.根据权利要求1所述的实时数据分类统计方法,其特征在于,所述工业大数据平台包括工业大数据竞赛系统,用户操作所述工业大数据竞赛系统而产生的所述实时操作数据包括浏览博客、发布博客、点赞博客、删除博客、回答问题、确认参加比赛、确认退出比赛中的任意一种或多种。
3.根据权利要求1所述的实时数据分类统计方法,其特征在于,所述消息中间件kafka的业务逻辑通过AOP软件开发方式实现。
4.根据权利要求3所述的实时数据分类统计方法,其特征在于,所述消息中间件kafka的业务逻辑以kafka配置文件形式保存。
5.根据权利要求1所述的实时数据分类统计方法,其特征在于,所述消息中间件kafka对监听到的所述实时操作数据采用动态工厂模式,以反射的方式将不同类型的所述实时操作数据分发给所述Flink分布式流数据处理引擎分别进行数据处理。
6.一种实时数据分类统计系统,可实现如权1~5任意一项所述的方法,其特征在于,包括:
初始化模块,用于提供给工业大数据平台系统加载kafka配置文件,然后初始化消息中间件kafka并注册消息监听;
消息监听模块,连接所述初始化模块,用于通过所述消息中间件kafka监听用户操作工业大数据平台而产生的实时操作数据,并将监听到的所述实时操作数据以kafka消息的形式发送给Flink分布式流数据处理引擎进行进一步的数据分类统计;
数据处理模块,连接所述消息监听模块,用于通过所述Flink分布式流数据处理引擎对不同类型的所述kafka消息进行分别处理,得到对所述kafka消息的分类统计结果;
数据存储模块,连接所述数据处理模块,用于对所述分类统计结果进行分布式存储。
7.根据权利要求6所述的实时数据分类统计系统,其特征在于,采用Elasticsearch分布式全文搜索引擎对所述分类统计结果进行分布式存储。
8.根据权利要求6所述的实时数据分类统计服务系统,其特征在于,所述消息中间件kafka对监听到的所述实时操作数据采用动态工厂模式,以反射的方式将不同类型的所述实时操作数据分发给所述Flink分布式流数据处理引擎分别进行数据的分类统计。
9.一种计算机可读存储介质,包括执行指令,其特征在于,当电子设备的处理器执行所述执行指令时,所述处理器执行如权1~5任意一项所述的方法。
10.一种电子设备,包括处理器以及存储有执行指令的存储器,其特征在于,当所述处理器执行所述存储器中的所述执行指令时,所述处理器执行如权1~5任意一项所述的方法。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于上海微亿智造科技有限公司;常州微亿智造科技有限公司,未经上海微亿智造科技有限公司;常州微亿智造科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202010847108.X/1.html,转载请声明来源钻瓜专利网。
- 数据显示系统、数据中继设备、数据中继方法、数据系统、接收设备和数据读取方法
- 数据记录方法、数据记录装置、数据记录媒体、数据重播方法和数据重播装置
- 数据发送方法、数据发送系统、数据发送装置以及数据结构
- 数据显示系统、数据中继设备、数据中继方法及数据系统
- 数据嵌入装置、数据嵌入方法、数据提取装置及数据提取方法
- 数据管理装置、数据编辑装置、数据阅览装置、数据管理方法、数据编辑方法以及数据阅览方法
- 数据发送和数据接收设备、数据发送和数据接收方法
- 数据发送装置、数据接收装置、数据收发系统、数据发送方法、数据接收方法和数据收发方法
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置