[发明专利]基于Kafka的原始流量存储装置在审
申请号: | 201811041766.9 | 申请日: | 2018-09-07 |
公开(公告)号: | CN109379401A | 公开(公告)日: | 2019-02-22 |
发明(设计)人: | 陈月冬;张言;吴飞 | 申请(专利权)人: | 南京中新赛克科技有限责任公司 |
主分类号: | H04L29/08 | 分类号: | H04L29/08;H04L29/06 |
代理公司: | 南京苏高专利商标事务所(普通合伙) 32204 | 代理人: | 饶欣 |
地址: | 210000 江苏*** | 国省代码: | 江苏;32 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本发明公开了一种基于Kafka的原始流量存储装置,包括:帧接收模块:接收外部系统的流量包;帧解析模块:解析流量包并获取五元组信息,将五元组信息作为kafka message的key值,发往kafka集群;原始流量落地模块:采用spark streaming模块将kafka集群收到的数据批量存储到大数据存储组件。本发明在大于10gbps的网络流量下吞吐能力强,支持离线处理,支持模糊查询,查询速度快。用户能够实时地将流量包存储到大数据存储组件中,在此基础上实现实时的上层业务。 | ||
搜索关键词: | 原始流量 流量包 五元组信息 存储装置 存储组件 大数据 集群 帧接收模块 帧解析模块 离线处理 模糊查询 批量存储 上层业务 吞吐能力 外部系统 网络流量 解析 存储 落地 查询 | ||
【主权项】:
1.基于Kafka的原始流量存储装置,其特征在于:包括:帧接收模块:接收外部系统的流量包;帧解析模块:解析流量包并获取五元组信息,将五元组信息作为kafka message的key值,发往kafka集群;原始流量落地模块:采用spark streaming模块将kafka集群收到的数据批量存储到大数据存储组件。
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于南京中新赛克科技有限责任公司,未经南京中新赛克科技有限责任公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/201811041766.9/,转载请声明来源钻瓜专利网。