[发明专利]基于大数据技术的大指数据比对方法有效
申请号: | 201710559045.6 | 申请日: | 2017-07-11 |
公开(公告)号: | CN107329846B | 公开(公告)日: | 2020-06-12 |
发明(设计)人: | 贾伟;洪启祥;高希;刘聪;蒋泽鑫;李革华;吴燕将;向刚;柳其明;许一君;许雷 | 申请(专利权)人: | 深圳市信义科技有限公司 |
主分类号: | G06F9/54 | 分类号: | G06F9/54 |
代理公司: | 深圳市嘉宏博知识产权代理事务所 44273 | 代理人: | 孙强 |
地址: | 518000 广东省深圳市南山区*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 基于 数据 技术 大指 方法 | ||
1.基于大数据技术的大指数据比对方法,其特征在于:包括如下步骤:
第一步、第一分布式消息队列传递给比对JOB,该第一分布式消息队列包括若干条消息,每一条该消息包括若干个字段信息,
第二步、在该比对JOB中按照分布式流式计算按时间顺序截取每一条该消息中的该字段信息,形成信息片段,该信息片段包括若干个该字段信息,
第三步、在该比对JOB中配置比对信息,第二分布式消息队列传递给该比对JOB,该第二分布式消息队列包括若干条比对消息,每一条该比对消息包括若干个比对字段信息,第二步中的每一条该消息的该信息片段与一条该比对消息形成一个该比对信息,第二步中的每一条该消息的该信息片段与另外一条该比对消息形成另外一个该比对信息,如此类推,
第四步、在该比对JOB中对第三步中的该比对信息进行运算得到比对结果,
第五步、由该比对JOB提取每一条该消息的该信息片段中的关键字段形成索引,
在该比对JOB中按照分布式流式计算按时间顺序截取每一条该比对消息中的该比对字段信息,形成比对信息片段,该比对信息片段包括若干个该比对字段信息,由该比对JOB提取每一条该比对消息的该比对信息片段中的关键字段形成比对索引,
第六步、新的第二分布式消息队列传递给该比对JOB时,在该比对JOB中按照分布式流式计算按时间顺序截取每一条新的比对消息中的新的比对字段信息,形成新的比对信息片段,该新的比对信息片段与第五步中的该索引进行对比并输出结果,
第七步、新的第一分布式消息队列传递给该比对JOB时,在该比对JOB中按照分布式流式计算按时间顺序截取每一条新的消息中的新的字段信息,形成新的信息片段,该新的比对信息片段与第五步中的该比对索引进行对比并输出结果,
第八步、第六步与第七步循环运行能够即时输出比对结果。
2.如权利要求1所述的基于大数据技术的大指数据比对方法,其特征在于:若干条该消息分别属于不同类型的消息。
3.如权利要求1所述的基于大数据技术的大指数据比对方法,其特征在于:若干条该比对消息分别属于不同类型的消息。
4.如权利要求1所述的基于大数据技术的大指数据比对方法,其特征在于:每五秒就截取每一条该消息中的该字段信息,形成该信息片段。
5.如权利要求1所述的基于大数据技术的大指数据比对方法,其特征在于:第二步、第三步、第四步以及第五步同时进行。
6.如权利要求1所述的基于大数据技术的大指数据比对方法,其特征在于:第五步中的该索引以及该比对索引输入到内存中。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于深圳市信义科技有限公司,未经深圳市信义科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201710559045.6/1.html,转载请声明来源钻瓜专利网。
- 数据显示系统、数据中继设备、数据中继方法、数据系统、接收设备和数据读取方法
- 数据记录方法、数据记录装置、数据记录媒体、数据重播方法和数据重播装置
- 数据发送方法、数据发送系统、数据发送装置以及数据结构
- 数据显示系统、数据中继设备、数据中继方法及数据系统
- 数据嵌入装置、数据嵌入方法、数据提取装置及数据提取方法
- 数据管理装置、数据编辑装置、数据阅览装置、数据管理方法、数据编辑方法以及数据阅览方法
- 数据发送和数据接收设备、数据发送和数据接收方法
- 数据发送装置、数据接收装置、数据收发系统、数据发送方法、数据接收方法和数据收发方法
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置