[发明专利]一种基于高密度网络流量的数据报文处理方法有效
申请号: | 201410839902.4 | 申请日: | 2014-12-30 |
公开(公告)号: | CN104539549B | 公开(公告)日: | 2018-01-02 |
发明(设计)人: | 赵洪宇 | 申请(专利权)人: | 天津市锦标科技有限公司 |
主分类号: | H04L12/801 | 分类号: | H04L12/801 |
代理公司: | 天津市新天方有限责任专利代理事务所12104 | 代理人: | 李桂英 |
地址: | 300170 天津*** | 国省代码: | 天津;12 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 基于 高密度 网络流量 数据 报文 处理 方法 | ||
1.一种基于高密度网络流量的数据报文处理方法,该方法包括高密度报文物理处理交换系统与高密度报文逻辑处理交换系统,其特征在于:
所述的高密度报文物理处理交换系统流程包括,当用户发生网络访问行为时,所产生的上网行为数据报文通过其所连接的网络进行传输;该网络由用户使用端、交换机与互联网组成;用户使用端通过交换机的交换系统分配连接于互联网上;用户使用端与交换机的链路之间设置高密度数据报文处理系统;高密度数据报文处理系统即可以完全采用网络光复用原理进行,也可以兼容端口镜像的模式;系统采用上下级分发模式,在不超过光端口的最大值的状态下无线接收和处理网络中传输的数据报文;
所述的高密度报文逻辑处理交换系统包括,采用多CPU核心并行列队高速缓存处理的处理原理;该处理原理的具体流程包括,
首先建立数据缓存空间,使用alloc_bootmem接口,使调用函数族在内存管理子系统slab启动前调用;设定主处理设备内存容量为32G的情况下,分配网络数据包缓冲区为12G;
而后建立hook数据包接收点,在网络数据包的统计接收点netif_receive_skb接口中添加一个自定义hook回调点netif_receive_skb_hook,实现该回调即可得到所有数据包;
然后插入数据接收模块,将缓冲区以CPU个数进行分区,每一块区域都是对应的CPU核心的局部缓冲区,由某CPU核心接收的数据包即存储在该CPU核心的对应缓冲区中;
最后建立数据分析过滤模块及高速数据对比算法,依次取CPU核心中一个局部缓冲区中的数据报文进行数据报文过滤分析;高速数据对比算法采用基于IP层的高速数据报文对比算法,所有虚拟队列缓存处理和高速比对算法都是在网络驱动层实现完毕,做到理论线性无延迟,再采用若干个数据并发处理引擎进行深度数据挖掘分析,当发现某一条数据报文中有异常时即可进行数据留存以便进行深度的数据挖掘分析。
2.根据权利要求1所述的一种基于高密度网络流量的数据报文处理方法,其特征在于,高密度报文物理处理交换系统包括:
高密度报文物理处理交换系统上有一张10Gb或更高速的网络端口适配器和若干台10Gb或1Gb的网络端口组成的并发处理引擎来组成;将主网络数据获取端口通过驱动编程将其设置为数据捕获模式,从而能够做到实时获取分光设备上的数据报文,根据多核心队列缓存的原理来确定数据有哪些,并指定发送到特定标记为空闲状态的网络端口上。
3.根据权利要求1所述的一种基于高密度网络流量的数据报文处理方法,其特征在于:
所述的核心处理设备群都存放在私有地址池中,所以无需考虑设备的安全性。
4.根据权利要求1所述的一种基于高密度网络流量的数据报文处理方法,其特征在于,当数据处理量达到峰值时的应变措施包括:
当高密度报文物理处理交换系统达到处理瓶颈时仅需增加若干台数据并发处理引擎即可对数据进行分流处理,并将其中的数据由若干台数据并发实时处理引擎进行分析处理。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于天津市锦标科技有限公司,未经天津市锦标科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201410839902.4/1.html,转载请声明来源钻瓜专利网。
- 数据显示系统、数据中继设备、数据中继方法、数据系统、接收设备和数据读取方法
- 数据记录方法、数据记录装置、数据记录媒体、数据重播方法和数据重播装置
- 数据发送方法、数据发送系统、数据发送装置以及数据结构
- 数据显示系统、数据中继设备、数据中继方法及数据系统
- 数据嵌入装置、数据嵌入方法、数据提取装置及数据提取方法
- 数据管理装置、数据编辑装置、数据阅览装置、数据管理方法、数据编辑方法以及数据阅览方法
- 数据发送和数据接收设备、数据发送和数据接收方法
- 数据发送装置、数据接收装置、数据收发系统、数据发送方法、数据接收方法和数据收发方法
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置