[发明专利]基于多引擎数据分群方法、装置、计算机设备和存储介质在审

专利信息
申请号: 202010464222.4 申请日: 2020-05-27
公开(公告)号: CN111782677A 公开(公告)日: 2020-10-16
发明(设计)人: 邓煜 申请(专利权)人: 中国平安财产保险股份有限公司
主分类号: G06F16/242 分类号: G06F16/242;G06F16/22;G06F16/27
代理公司: 深圳市世联合知识产权代理有限公司 44385 代理人: 汪琳琳
地址: 518000 广东省深圳市福田区益田路*** 国省代码: 广东;44
权利要求书: 查看更多 说明书: 查看更多
摘要:
搜索关键词: 基于 引擎 数据 分群 方法 装置 计算机 设备 存储 介质
【权利要求书】:

1.一种基于多引擎数据分群方法,其特征在于,包括下述步骤:

接收用户端发出的分群请求,根据用户端的分群请求,通过Hadoop发起数据分群;

接收用户端根据数据分群发出数据包计算指令;

通过ElasticSearch识别所述数据包计算指令的任务类型;

若所述数据包计算指令是高运算量任务类型,则根据所述数据包计算指令,通过ElasticSearch判断数据包的运算量是否超过运算量阈值;

如果所述运算量没有超过运算量阈值,则通过ElasticSearch实现运算并输出运算结果;及

如果所述运算量超过了运算量阈值,则通过spark实现运算并输出运算结果。

2.根据权利要求1所述的基于多引擎数据分群方法,其特征在于,所述根据用户端的分群请求,通过Hadoop发起数据分群的步骤具体包括:

通过spark-streaming获取数据分群请求;

通过spark-streaming控制Hadoop的hive数据仓库生成与所述分群请求相对应的分群。

3.根据权利要求1所述的基于多引擎数据分群方法,其特征在于,所述数据包存储于区块链中,若所述数据包计算指令是高运算量任务类型,所述根据所述数据包计算指令,通过ElasticSearch判断数据包的运算量是否超过运算量阈值的步骤具体包括:

将所述数据包计算指令输出到消息队列;

判断所述消息队列中的所述数据包计算指令所对应的数据包的数据量是否超过数据量阈值;

如果数据包的数据量没有超过数据量阈值,则确定数据包的运算量没有超过运算量阈值;

如果数据包的数据量超过了数据量阈值,则确定数据包的运算量超过了运算量阈值。

4.根据权利要求1所述的基于多引擎数据分群方法,其特征在于,所述通过ElasticSearch实现运算并输出运算结果的步骤具体包括:

从Hadoop获取标签底表,所述标签底表存储有数据表的标签;

通过spark根据所述标签底表获取Hadoop产生的数据表并合并;

将合并的数据表同步到ElasticSearch引擎并进行数据抽取或实时查询。

5.根据权利要求1所述的基于多引擎数据分群方法,其特征在于,所述通过spark实现运算并输出运算结果的步骤具体包括:

通过spark-streaming解析所述数据包计算指令,并且确定分群数据源、分群ID、用户条件和输出方式;

根据分群数据源、分群ID、用户条件确定操作数据的SQL语句;

对所述分群数据源执行所述SQL语句并获取相应的操作数据;

将操作数据输出到hive数据仓库中,并根据输出方式向用户提供查询接口或下载链接。

6.根据权利要求1所述的基于多引擎数据分群方法,其特征在于,在接收用户端发出的分群请求的步骤之后,接收用户端根据数据分群发出数据包计算指令的步骤之前,还包括:

根据所述分群请求确定分群中的数据量;

根据数据分群中的数据量,确定数据分群的数据量是否符合预设范围;

如果符合预设范围,则继续接收用户端根据数据分群发出数据包计算指令;

如果不符合预设范围,则拒绝接收用户端根据数据分群发出数据包计算指令,并输出相应的告警信息。

下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。

该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于中国平安财产保险股份有限公司,未经中国平安财产保险股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服

本文链接:http://www.vipzhuanli.com/pat/books/202010464222.4/1.html,转载请声明来源钻瓜专利网。

×

专利文献下载

说明:

1、专利原文基于中国国家知识产权局专利说明书;

2、支持发明专利 、实用新型专利、外观设计专利(升级中);

3、专利数据每周两次同步更新,支持Adobe PDF格式;

4、内容包括专利技术的结构示意图流程工艺图技术构造图

5、已全新升级为极速版,下载速度显著提升!欢迎使用!

请您登陆后,进行下载,点击【登陆】 【注册】

关于我们 寻求报道 投稿须知 广告合作 版权声明 网站地图 友情链接 企业标识 联系我们

钻瓜专利网在线咨询

周一至周五 9:00-18:00

咨询在线客服咨询在线客服
tel code back_top