[发明专利]日志内容及日志数据的筛选方法、装置、系统、可读介质在审
申请号: | 201810020494.8 | 申请日: | 2018-01-09 |
公开(公告)号: | CN108234245A | 公开(公告)日: | 2018-06-29 |
发明(设计)人: | 黄凯旋;康凯 | 申请(专利权)人: | 上海帝联网络科技有限公司 |
主分类号: | H04L12/26 | 分类号: | H04L12/26;H04L29/08;H04L12/24 |
代理公司: | 北京集佳知识产权代理有限公司 11227 | 代理人: | 吴敏 |
地址: | 200333 上海市普*** | 国省代码: | 上海;31 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 日志数据 筛选 过滤条件 计算资源 日志内容 云端 结果信息 可读介质 客户端 分布式文件系统 接收客户端 计算能力 日志过滤 网络带宽 下载 过滤 发送 反馈 应用 | ||
1.一种日志内容的筛选方法,其特征在于,包括:
接收客户端发送的日志过滤条件;
基于所接收的过滤条件,利用云端计算资源对分布式文件系统中的日志数据进行过滤以获取满足所述过滤条件的日志数据,并生成执行结果信息;
将所述执行结果信息或者满足所述过滤条件的日志数据反馈至所述客户端。
2.根据权利要求1所述的日志内容的筛选方法,其特征在于,所述日志过滤条件为:日志类型、日志开始时间、日志结束时间、域名及以下至少一项:
统一资源定位符、HTTP状态码、服务端IP地址。
3.根据权利要求1所述的日志内容的筛选方法,其特征在于,所述接收客户端发送的日志过滤条件包括:
通过Web端接收所述客户端发送的日志过滤条件,并将所接收的日志过滤条件转换为预设格式的条件参数。
4.根据权利要求3所述的日志内容的筛选方法,其特征在于,通过所述Web端将所述执行结果信息或者满足所述过滤条件的日志数据反馈至所述客户端。
5.根据权利要求4所述的日志内容的筛选方法,其特征在于,所述基于所接收的过滤条件,利用云端计算资源对分布式文件系统中的日志数据进行过滤以获取满足所述过滤条件的日志数据,并生成执行结果信息包括:
分配Spark分布式计算单元;
基于预设格式的条件参数,利用分配的Spark分布式计算单元对分布式文件系统中的日志数据进行过滤以获取满足所述过滤条件的日志数据,并生成执行结果信息;
将所述执行结果信息反馈至所述Web端。
6.根据权利要求5所述的日志内容的筛选方法,其特征在于,所述利用分配的Spark分布式计算单元对分布式文件系统中的日志数据进行过滤以获取满足所述过滤条件的日志数据,并生成执行结果信息包括:
对分布式文件系统中的日志数据对应的文件名称进行过滤;
对满足所述过滤条件的文件名称对应的日志记录进行逐行过滤,以获取满足所述过滤条件的日志数据;
基于是否成功获取满足所述过滤条件的日志数据,生成执行结果信息。
7.根据权利要求6所述的日志内容的筛选方法,其特征在于,所述基于是否成功获取满足所述过滤条件的日志数据,生成执行结果信息包括:
当成功获取满足所述过滤条件的日志数据时,生成所述执行结果信息如下:满足所述过滤条件的日志数据的大小信息及在分布式文件系统中的存放位置信息;
当未成功获取满足所述过滤条件的日志数据时,生成所述执行结果信息如下:执行失败的原因信息。
8.根据权利要求5所述的日志内容的筛选方法,其特征在于,所述通过所述Web端将满足所述过滤条件的日志数据反馈至所述客户端包括:
当成功获取满足所述过滤条件的日志数据时,通过所述Web端显示成功指示信息;
通过所述Web端接收所述客户端发送的下载指令;
通过所述Web端基于HTTP协议将满足所述过滤条件的日志数据反馈至所述客户端。
9.一种日志数据的筛选方法,其特征在于,包括:
通过Web端接收客户端发送的日志过滤条件;
基于所接收的过滤条件,判断是否需要对分布式文件系统中的日志内容进行过滤;
当不需要对分布式文件系统中的日志内容进行过滤时,对日志数据对应的文件名称进行过滤,以获取满足所述过滤条件的日志数据并反馈至所述客户端;
当需要对分布式文件系统中的日志内容进行过滤时,采用如权利要求1至8任一项所述的日志内容的筛选方法对日志数据进行筛选。
10.根据权利要求9所述的日志数据的筛选方法,其特征在于,所述日志过滤条件包括以下至少一种:日志类型、日志开始时间、日志结束时间、域名、统一资源定位符、HTTP状态码、服务端IP地址。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于上海帝联网络科技有限公司,未经上海帝联网络科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201810020494.8/1.html,转载请声明来源钻瓜专利网。