[发明专利]一种实时数据分类统计方法、系统、可读介质及设备在审

专利信息
申请号: 202010847108.X 申请日: 2020-08-21
公开(公告)号: CN112084387A 公开(公告)日: 2020-12-15
发明(设计)人: 刘小苏;刘滨;王星宇 申请(专利权)人: 上海微亿智造科技有限公司;常州微亿智造科技有限公司
主分类号: G06F16/906 分类号: G06F16/906;G06F16/953
代理公司: 上海塔科专利代理事务所(普通合伙) 31380 代理人: 耿恩华
地址: 201100 上海*** 国省代码: 上海;31
权利要求书: 查看更多 说明书: 查看更多
摘要:
搜索关键词: 一种 实时 数据 分类 统计 方法 系统 可读 介质 设备
【权利要求书】:

1.一种实时数据分类统计方法,其特征在于,包括:

由消息中间件kafka获取用户操作工业大数据平台系统而产生的实时操作数据;

采用Flink分布式流数据处理引擎对所述实时操作数据进行分类统计,得到对所述实时操作数据的分类统计结果;

采用Elasticsearch分布式全文搜索引擎对所述分类统计结果进行分类存储。

2.根据权利要求1所述的实时数据分类统计方法,其特征在于,所述工业大数据平台包括工业大数据竞赛系统,用户操作所述工业大数据竞赛系统而产生的所述实时操作数据包括浏览博客、发布博客、点赞博客、删除博客、回答问题、确认参加比赛、确认退出比赛中的任意一种或多种。

3.根据权利要求1所述的实时数据分类统计方法,其特征在于,所述消息中间件kafka的业务逻辑通过AOP软件开发方式实现。

4.根据权利要求3所述的实时数据分类统计方法,其特征在于,所述消息中间件kafka的业务逻辑以kafka配置文件形式保存。

5.根据权利要求1所述的实时数据分类统计方法,其特征在于,所述消息中间件kafka对监听到的所述实时操作数据采用动态工厂模式,以反射的方式将不同类型的所述实时操作数据分发给所述Flink分布式流数据处理引擎分别进行数据处理。

6.一种实时数据分类统计系统,可实现如权1~5任意一项所述的方法,其特征在于,包括:

初始化模块,用于提供给工业大数据平台系统加载kafka配置文件,然后初始化消息中间件kafka并注册消息监听;

消息监听模块,连接所述初始化模块,用于通过所述消息中间件kafka监听用户操作工业大数据平台而产生的实时操作数据,并将监听到的所述实时操作数据以kafka消息的形式发送给Flink分布式流数据处理引擎进行进一步的数据分类统计;

数据处理模块,连接所述消息监听模块,用于通过所述Flink分布式流数据处理引擎对不同类型的所述kafka消息进行分别处理,得到对所述kafka消息的分类统计结果;

数据存储模块,连接所述数据处理模块,用于对所述分类统计结果进行分布式存储。

7.根据权利要求6所述的实时数据分类统计系统,其特征在于,采用Elasticsearch分布式全文搜索引擎对所述分类统计结果进行分布式存储。

8.根据权利要求6所述的实时数据分类统计服务系统,其特征在于,所述消息中间件kafka对监听到的所述实时操作数据采用动态工厂模式,以反射的方式将不同类型的所述实时操作数据分发给所述Flink分布式流数据处理引擎分别进行数据的分类统计。

9.一种计算机可读存储介质,包括执行指令,其特征在于,当电子设备的处理器执行所述执行指令时,所述处理器执行如权1~5任意一项所述的方法。

10.一种电子设备,包括处理器以及存储有执行指令的存储器,其特征在于,当所述处理器执行所述存储器中的所述执行指令时,所述处理器执行如权1~5任意一项所述的方法。

下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。

该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于上海微亿智造科技有限公司;常州微亿智造科技有限公司,未经上海微亿智造科技有限公司;常州微亿智造科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服

本文链接:http://www.vipzhuanli.com/pat/books/202010847108.X/1.html,转载请声明来源钻瓜专利网。

×

专利文献下载

说明:

1、专利原文基于中国国家知识产权局专利说明书;

2、支持发明专利 、实用新型专利、外观设计专利(升级中);

3、专利数据每周两次同步更新,支持Adobe PDF格式;

4、内容包括专利技术的结构示意图流程工艺图技术构造图

5、已全新升级为极速版,下载速度显著提升!欢迎使用!

请您登陆后,进行下载,点击【登陆】 【注册】

关于我们 寻求报道 投稿须知 广告合作 版权声明 网站地图 友情链接 企业标识 联系我们

钻瓜专利网在线咨询

周一至周五 9:00-18:00

咨询在线客服咨询在线客服
tel code back_top