[发明专利]日志处理方法和装置在审
申请号: | 202110345462.7 | 申请日: | 2021-03-31 |
公开(公告)号: | CN112948334A | 公开(公告)日: | 2021-06-11 |
发明(设计)人: | 王川;宋继兵 | 申请(专利权)人: | 建信金融科技有限责任公司 |
主分类号: | G06F16/17 | 分类号: | G06F16/17;G06F16/18;G06F9/54 |
代理公司: | 中原信达知识产权代理有限责任公司 11219 | 代理人: | 李阳;宗磊 |
地址: | 200120 上海市自由*** | 国省代码: | 上海;31 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 日志 处理 方法 装置 | ||
1.一种日志处理方法,其特征在于,包括:
识别数据库节点的角色,根据所述角色,确定存储于所述数据库节点上的日志的存储路径;
基于所述存储路径,采集日志数据,并将所述日志数据发送至预设的消息队列;
从所述消息队列中获取所述日志数据,并存储所述日志数据。
2.根据权利要求1所述的方法,其特征在于,采集日志数据包括:
采集日志数据,并对所述日志数据进行标记,以通过所述标记确定所述日志数据对应的数据库节点的角色。
3.根据权利要求1所述的方法,其特征在于,从所述消息队列中获取所述日志数据,并存储所述日志数据包括:
从所述消息队列中获取所述日志数据;
根据所述日志数据的标记,确定所述日志数据对应的数据库节点的角色;
根据所述日志数据对应的数据库节点的角色,确定解析策略;
根据所述解析策略,解析所述日志数据;
将解析后的所述日志数据进行存储。
4.根据权利要求3所述的方法,其特征在于,在解析所述日志数据之后,所述方法还包括:对解析后的日志数据进行格式转换。
5.根据权利要求3所述的方法,其特征在于,将解析后的所述日志数据进行存储包括:
根据所述日志数据的标记,确定所述日志数据对应的数据表;
将解析后的所述日志数据存储于所述数据表中。
6.根据权利要求5所述的方法,其特征在于,根据所述日志数据的标记,确定所述日志数据对应的数据表包括:
根据所述日志数据的标记,确定分区键;
根据所述分区键,确定所述日志数据对应的数据表。
7.根据权利要求1所述的方法,其特征在于,在存储所述日志数据时,所述方法还包括:创建多个日志索引,以通过所述日志索引查询存储的日志数据。
8.根据权利要求7所述的方法,其特征在于,创建多个日志索引包括:根据以下一种或多种关键字创建索引:时间、用户、IP地址和耗时。
9.根据权利要求1所述的方法,其特征在于,在存储所述日志数据之后,所述方法还包括:
接收查询指令,并根据所述查询指令查询存储的日志数据,得到查询结果;
根据所述查询指令,确定目标图表;
将所述查询结果和所述目标图表进行关联和渲染,以通过所述目标图表展示所述查询结果。
10.根据权利要求1-9任一项所述的方法,其特征在于,所述数据库节点的角色包括计算节点和存储节点。
11.一种日志处理装置,其特征在于,包括:
识别模块,用于识别数据库节点的角色,根据所述角色,确定存储于所述数据库节点上的日志的存储路径;
采集模块,用于基于所述存储路径,采集日志数据,并将所述日志数据发送至预设的消息队列;
存储模块,用于从所述消息队列中获取所述日志数据,并存储所述日志数据。
12.根据权利要求11所述的装置,其特征在于,所述采集模块还用于:采集日志数据,并对所述日志数据进行标记,以通过所述标记确定所述日志数据对应的数据库节点的角色。
13.根据权利要求11所述的装置,其特征在于,所述存储模块还用于:
从所述消息队列中获取所述日志数据;
根据所述日志数据的标记,确定所述日志数据对应的数据库节点的角色;
根据所述日志数据对应的数据库节点的角色,确定解析策略;
根据所述解析策略,解析所述日志数据;
将解析后的所述日志数据进行存储。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于建信金融科技有限责任公司,未经建信金融科技有限责任公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202110345462.7/1.html,转载请声明来源钻瓜专利网。