[发明专利]实时日志收集方法、系统和应用服务器集群有效
申请号: | 201510923078.5 | 申请日: | 2015-12-11 |
公开(公告)号: | CN105490854B | 公开(公告)日: | 2019-03-12 |
发明(设计)人: | 欧樑;杨华涛;韦杰;林岳;顾思斌;潘柏宇;王冀 | 申请(专利权)人: | 传线网络科技(上海)有限公司 |
主分类号: | H04L12/24 | 分类号: | H04L12/24;H04L29/08 |
代理公司: | 北京林达刘知识产权代理事务所(普通合伙) 11277 | 代理人: | 刘新宇 |
地址: | 200241 上海市*** | 国省代码: | 上海;31 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 实时 日志 收集 方法 系统 应用 服务器 集群 | ||
1.一种实时日志收集方法,用于收集用户行为日志,其特征在于,包括:
在用户终端打开第一应用服务器所提供网页的情况下,所述第一应用服务器控制所述用户终端运行预设的日志记录脚本;
在所述日志记录脚本检测到所述用户进行设定的临时用户行为的情况下,生成包括与所述临时用户行为相关的临时日志信息的超文本传输协议HTTP请求,并从所述用户终端向实时日志收集系统的第一接收源发送所述HTTP请求,所述临时日志信息包括所述用户终端的IP地址、进行所述临时用户行为的时间和用户ID中的至少一项;以及
所述第一接收源将所述HTTP请求经由所述实时日志收集系统的第一卡夫卡Kafka通道发送至存储系统。
2.根据权利要求1所述的实时日志收集方法,其特征在于,在所述第一接收源接收到从所述用户终端发送的所述HTTP请求之后,还包括:
所述实时日志收集系统的拦截器根据所述HTTP请求,统计第一时间间隔内进行所述临时用户行为的次数。
3.根据权利要求1或2所述的实时日志收集方法,其特征在于,还包括:
第二应用服务器记录与所述用户行为相关的行为属性,并将在第二时间间隔内所记录的行为属性按照预先设定的日志格式生成日志文件,所述行为属性包括所述用户终端的IP地址、所述用户行为的名称、进行所述用户行为的时间和用户ID中的至少一项;
所述实时日志收集系统的代理模块在检测到存在所述日志文件的情况下,将所述日志文件发送至所述实时日志收集系统的第二接收源;以及
所述第二接收源将所述日志文件经由所述实时日志收集系统的第二Kafka通道发送至所述存储系统。
4.根据权利要求3所述的实时日志收集方法,其特征在于,还包括:
所述实时日志收集系统的拦截器根据所述日志文件统计第三时间间隔内进行特定用户行为的次数,并在统计出的次数大于设定阈值的情况下,发送异常信息。
5.根据权利要求1或2所述的实时日志收集方法,其特征在于,所述存储系统包括分布式文件系统和/或数据库。
6.一种实时日志收集系统,用于收集用户行为日志,其特征在于,包括:
第一接收源,与用户终端连接,用于从所述用户终端接收包括与临时用户行为相关的临时日志信息的HTTP请求,所述临时日志信息包括所述用户终端的IP地址、进行所述临时用户行为的时间和用户ID中的至少一项,其中,在所述用户终端打开第一应用服务器所提供网页的情况下,所述第一应用服务器控制所述用户终端运行预设的日志记录脚本,在所述日志记录脚本检测到所述用户进行设定的临时用户行为的情况下,生成所述HTTP请求;以及
第一Kafka通道,与所述第一接收源连接,用于从所述第一接收源接收所述HTTP请求,并发送至存储系统。
7.根据权利要求6所述的实时日志收集系统,其特征在于,还包括:
拦截器,与所述第一接收源和所述第一Kafka通道分别连接,用于从所述第一接收源拦截所述HTTP请求;以及
分析模块,与所述拦截器连接,用于从所述拦截器接收所述HTTP请求,并根据所述HTTP请求,统计第一时间间隔内进行所述临时用户行为的次数。
8.根据权利要求7所述的实时日志收集系统,其特征在于,还包括:
代理模块,与第二应用服务器连接,用于检测是否存在日志文件,在检测到存在所述日志文件的情况下,获取所述日志文件,其中,第二应用服务器记录与所述用户行为相关的行为属性,并将在第二时间间隔内所记录的行为属性按照预先设定的日志格式生成所述日志文件,所述行为属性包括所述用户终端的IP地址、所述用户行为的名称、进行所述用户行为的时间和用户ID中的至少一项;
第二接收源,与所述代理模块连接,用于从所述代理模块接收所述日志文件;以及
第二Kafka通道,与所述第二接收源连接,用于从所述第二接收源接收所述日志文件,并发送至所述存储系统。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于传线网络科技(上海)有限公司,未经传线网络科技(上海)有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201510923078.5/1.html,转载请声明来源钻瓜专利网。