[发明专利]一种海量压缩文件的处理转发系统及方法有效
申请号: | 201910944196.2 | 申请日: | 2019-09-30 |
公开(公告)号: | CN110708376B | 公开(公告)日: | 2020-10-30 |
发明(设计)人: | 陈宗朗;黄代良;骆武辉;赵丽婷;李健军 | 申请(专利权)人: | 广州竞远安全技术股份有限公司 |
主分类号: | H04L29/08 | 分类号: | H04L29/08;H04L29/06;G06F16/174 |
代理公司: | 广州圣理华知识产权代理有限公司 44302 | 代理人: | 李唐明 |
地址: | 510635 广东省广州市天*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 海量 压缩文件 处理 转发 系统 方法 | ||
1.一种海量压缩文件的处理转发系统,其特征在于,包括采集设备,CentOS服务器以及Java处理程序,其中:
所述采集设备用于采集设备的设备数据,并将采集的设备数据发送给CentOS服务器;
所述CentOS服务器修改系统文件打开数后用于接收采集设备的采集数据;
所述CentOS服务器内安装有tmpfs文件系统,所述CentOS服务器接收设备数据的途径指向tmpfs文件系统,所述tmpfs文件系统接收数据后对数据进行压缩并使用mount -ttmpfs -p size=46080m tmpfs $FTP_PATH 命令挂载;
所述Java处理程序对压缩数据直接读取、处理及转发,同时定时进行备份。
2.如权利要求1所述的一种海量压缩文件的处理转发系统,其特征在于,所述服务器上安装类型为basic server的CentOS 1810 x86_64版本系统。
3.如权利要求2所述的一种海量压缩文件的处理转发系统,其特征在于,所述服务器采用x86架构的服务器。
4.一种海量压缩文件的处理转发方法,应用了如权利要求1-3任一所述的海量压缩文件的处理转发系统,其特征在于,该方法包括以下步骤:
S1:在服务器上安装类型为basic server的CentOS 1810 x86_64版本系统;
S2:系统安装完成后,修改所述系统的内核限制,使其支持TCP高并发,然后再修改最大文件数限制,用于提升处理ftp并发数;
S3: 完成系统内核修改后,再安装ftp 服务端,用于接收采集设备的设备数据;
S4:ftp服务端安装完成后,再进行tmpfs文件系统挂载,将ftp接收的设备数据的路径指向tmpfs文件系统,所述tmpfs文件系统接收数据后对数据进行压缩使用mount -t tmpfs-p size=46080m tmpfs $FTP_PATH 命令挂载;
S5: 安装java8环境,打开java处理程序,所述java处理程序读取tmpfs文件系统中的数据,所述java处理程序使用Java自带的API,直接读取压缩数据,不解压,读取字节数组;
S6: 处理读取的内容,根据不同业务流程转发出去;
S7:转发完成后,使用Java处理程序清理已处理的压缩文件。
5.如权利要求4所述的一种海量压缩文件的处理转发方法,其特征在于,所述服务器采用x86架构的服务器。
6.如权利要求4所述的一种海量压缩文件的处理转发方法,其特征在于,修改所述系统的内核限制即修改/etc/security/limits.conf文件,默认的软硬限制为1024,增加 softnofile 65536和hard nofile 65536 。
7.如权利要求4所述的一种海量压缩文件的处理转发方法,其特征在于,修改最大文件数限制即将单个用户可用的最大进程数量的软限制和硬限制都提升到65536,解除系统安全级别的并发数限制。
8.如权利要求4所述的一种海量压缩文件的处理转发方法,其特征在于,安装ftp 服务端时可以使用yum安装或者编译安装。
9.如权利要求4所述的一种海量压缩文件的处理转发方法,其特征在于,Java处理程序安装在临时目录中。
10.如权利要求4所述的一种海量压缩文件的处理转发方法,其特征在于,定时将所述压缩数据备份到磁盘。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于广州竞远安全技术股份有限公司,未经广州竞远安全技术股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201910944196.2/1.html,转载请声明来源钻瓜专利网。
- 上一篇:一种数据处理方法、装置及系统
- 下一篇:一种数据传输方法、装置和存储介质