[发明专利]基于Kafka的原始流量存储装置在审
申请号: | 201811041766.9 | 申请日: | 2018-09-07 |
公开(公告)号: | CN109379401A | 公开(公告)日: | 2019-02-22 |
发明(设计)人: | 陈月冬;张言;吴飞 | 申请(专利权)人: | 南京中新赛克科技有限责任公司 |
主分类号: | H04L29/08 | 分类号: | H04L29/08;H04L29/06 |
代理公司: | 南京苏高专利商标事务所(普通合伙) 32204 | 代理人: | 饶欣 |
地址: | 210000 江苏*** | 国省代码: | 江苏;32 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 原始流量 流量包 五元组信息 存储装置 存储组件 大数据 集群 帧接收模块 帧解析模块 离线处理 模糊查询 批量存储 上层业务 吞吐能力 外部系统 网络流量 解析 存储 落地 查询 | ||
1.基于Kafka的原始流量存储装置,其特征在于:包括:
帧接收模块:接收外部系统的流量包;
帧解析模块:解析流量包并获取五元组信息,将五元组信息作为kafka message的key值,发往kafka集群;
原始流量落地模块:采用spark streaming模块将kafka集群收到的数据批量存储到大数据存储组件。
2.根据权利要求1所述的基于Kafka的原始流量存储装置,其特征在于:所述流量包和五元组信息均存储到impala集群中。
3.根据权利要求2所述的基于Kafka的原始流量存储装置,其特征在于:按分区对impala集群添加索引。
4.根据权利要求1所述的基于Kafka的原始流量存储装置,其特征在于:所述帧接收模块采用分流器将流量包分发到各个网卡。
5.根据权利要求1所述的基于Kafka的原始流量存储装置,其特征在于:与五元组信息处于同一会话的流量包作为kafka message的value值,与key值一起发往kafka集群。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于南京中新赛克科技有限责任公司,未经南京中新赛克科技有限责任公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201811041766.9/1.html,转载请声明来源钻瓜专利网。