[发明专利]一种支持多样化日志合并的日志采集方法及系统有效
申请号: | 201910315551.X | 申请日: | 2019-04-19 |
公开(公告)号: | CN110032496B | 公开(公告)日: | 2023-10-13 |
发明(设计)人: | 劳冠杰 | 申请(专利权)人: | 杭州玳数科技有限公司 |
主分类号: | G06F11/30 | 分类号: | G06F11/30;G06F16/16;G06F16/18 |
代理公司: | 常州佰业腾飞专利代理事务所(普通合伙) 32231 | 代理人: | 刘松 |
地址: | 311121 浙江省杭州市余杭区仓前街道余杭*** | 国省代码: | 浙江;33 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 支持 多样化 日志 合并 采集 方法 系统 | ||
1.一种支持多样化日志合并的日志采集方法,其特征在于,包括:
日志监听模块对监听对象进行监听,判断所述监听对象是否产生变化,其中,所述监听对象产生的变化包括创建、修改和/或删除动作;
所述日志监听模块判断所述监听对象产生变化,生成事件信息,并将所述事件信息传输至日志处理模块;
所述日志处理模块接收所述日志监听模块传输的事件信息,判断所述事件信息的类型,如果所述事件信息为删除动作,则清空所述监听对象的读取记录;如果所述事件信息为创建动作,则初始化偏移量并读取日志内容;如果所述事件信息为修改,则获取配置规则,按照所述配置规则根据预存的偏移量读取日志内容,存储到缓存队列中;
日志上传模块从所述缓存队列中批量获取日志,将所述日志按照预设协议转换成字节流,并将所述字节流进行上传。
2.根据权利要求1所述的方法,其特征在于,所述获取配置规则,按照所述配置规则根据预存的偏移量读取日志内容,存储到缓存队列中包括:
按照逐个字节进行读取,按照字符集配置转换成字符串,如果所述配置规则包括多行合并,则执行多行日志合并的合并逻辑,如果所述配置规则包括事务合并,则执行事务合并的合并逻辑,如果所述配置规则包括多行合并和事务合并,则先执行多行日志合并的合并逻辑,后执行事务合并的合并逻辑,将合并后的字符串存储到所述缓存队列中。
3.根据权利要求1所述的方法,其特征在于,所述日志监听模块对监听对象进行监听,判断所述监听对象是否产生变化包括:
所述日志监听模块对指定监听的目录或者文件建立目录树,按照预设周期遍历所述目录树,判断是否产生创建、修改和/或删除动作的日志文件。
4.根据权利要求1所述的方法,其特征在于,还包括:
配置模块读取并解析所述配置文件,获取所述配置规则,初始化所述日志监听模块、所述日志处理模块和所述日志上传模块。
5.根据权利要求1所述的方法,其特征在于,还包括:
日志存储模块在所述日志上传模块将所述字节流成功上传后,将成功上传的日志偏移量进行存储。
6.根据权利要求1所述的方法,其特征在于,所述事务合并包括:事务上游规则和事务下游规则,所述事务下游规则为沿用上一规则时,沿用上一规则,所述事务下游规则为终结规则时,终结所述事务合并。
7.一种支持多样化日志合并的日志采集系统,其特征在于,包括:日志监听模块、日志处理模块以及日志上传模块;其中:
所述日志监听模块,用于对监听对象进行监听,判断所述监听对象是否产生变化,其中,所述监听对象产生的变化包括创建、修改和/或删除动作;判断所述监听对象产生变化,生成事件信息,并将所述事件信息传输至所述日志处理模块;
所述日志处理模块,用于接收所述日志监听模块传输的事件信息,判断所述事件信息的类型,如果所述事件信息为删除动作,则清空所述监听对象的读取记录;如果所述事件信息为创建动作,则初始化偏移量并读取日志内容;如果所述事件信息为修改,则获取配置规则,按照所述配置规则根据预存的偏移量读取日志内容,存储到缓存队列中;
所述日志上传模块,用于从所述缓存队列中批量获取日志,将所述日志按照预设协议转换成字节流,并将所述字节流进行上传。
8.根据权利要求7所述的系统,其特征在于,所述日志处理模块通过如下方式获取配置规则,按照所述配置规则根据预存的偏移量读取日志内容,存储到缓存队列中:
所述日志处理模块,具体用于按照逐个字节进行读取,按照字符集配置转换成字符串,如果所述配置规则包括多行合并,则执行多行日志合并的合并逻辑,如果所述配置规则包括事务合并,则执行事务合并的合并逻辑,如果所述配置规则包括多行合并和事务合并,则先执行多行日志合并的合并逻辑,后执行事务合并的合并逻辑,将合并后的字符串存储到所述缓存队列中。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于杭州玳数科技有限公司,未经杭州玳数科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201910315551.X/1.html,转载请声明来源钻瓜专利网。
- 上一篇:数据异常检测方法和装置
- 下一篇:一种指标数据的监控系统及方法