[发明专利]日志数据处理方法及系统有效
申请号: | 201310341764.2 | 申请日: | 2013-08-07 |
公开(公告)号: | CN103401937A | 公开(公告)日: | 2013-11-20 |
发明(设计)人: | 韩冀中;王旻;李勇;张章;孟丹 | 申请(专利权)人: | 中国科学院信息工程研究所 |
主分类号: | H04L29/08 | 分类号: | H04L29/08 |
代理公司: | 北京轻创知识产权代理有限公司 11212 | 代理人: | 杨立 |
地址: | 100093 *** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 日志 数据处理 方法 系统 | ||
1.一种日志数据处理方法,其特征在于,包括:
步骤一,设置每个发送端都与所有的服务器相连;
步骤二,发送端为自身产生的每条日志分配一个日志标识;
步骤三,发送端查询发送记录表中是否存在待发送日志的日志标识,若存在则从发送记录表中获取与该待发送日志的日志标识对应的服务器标识,该服务器标识对应的服务器即为选择的服务器;
步骤四,发送端将待发送日志数据直接发送给选择的服务器。
2.根据权利要求1所述的日志数据处理方法,其特征在于,所述步骤三中,若发送记录表中不存在待发送日志的日志标识,则使用服务器选取函数为待发送日志选择服务器,所述服务器选取函数的输入为日志标识,输出为服务器,此时所述日志数据处理方法还包括:
步骤五,将已发送日志的日志标识与接收该已发送日志的服务器的对应关系记录到发送记录表中。
3.根据权利要求1所述的日志数据处理方法,其特征在于,还包括:
步骤六,各个服务器定时向监控中心报告自身的负载信息;
步骤七,监控中心判断各个服务器负载是否均衡;
步骤八,若判断结果为不均衡时,监控中心更新服务器选取函数,并将更新后的服务器选取函数发送给所有发送端;
步骤九,发送端根据更新后的服务器选取函数选择接收待发送日志的服务器。
4.根据权利要求3所述的日志数据处理方法,其特征在于,所述步骤七包括:
计算各个服务器的加权负载值,加权负载值等于所有的加权因素与其加权因子的乘积之和,所述加权因素和加权因子预先设定;
获取最大的加权负载值和最小的加权负载值;
计算最大加权负载值与最小加权负载值的差值;
若所述差值小于0.25,则判定服务器负载均衡,否则判定服务器负载不均衡。
5.根据权利要求4所述的日志数据处理方法,其特征在于,步骤八中,更新服务器选取函数包括:
计算1与服务器的加权负载值的差,记为该服务器的空闲值;
计算所有服务器的空闲值的和,记为整体空闲值;
计算服务器的空闲值与整体空闲值的商,记为该服务器的相对比例,该相对比例即为服务器被选取为接收服务器的比例;
以日志标识为输入,将日志标识的分布空间划分为N份,每份的比例与服务器的相对比例对应,其中,N为服务器的个数。
6.一种日志数据处理系统,其特征在于,包括:
设置模块,用于设置每个发送端都与所有的服务器相连;
分配模块,设置于发送端中,用于为发送端产生的每条日志分配一个日志标识;
选择模块,设置于发送端中,用于查询发送记录表中是否存在待发送日志的日志标识,若存在则从发送记录表中获取与该待发送日志的日志标识对应的服务器标识,该服务器标识对应的服务器即为选择的服务器;
发送模块,设置于发送端中,用于将待发送日志数据直接发送给选择模块选择的服务器。
7.根据权利要求6所述的日志数据处理系统,其特征在于,所述选择模块还用于在发送记录表中不存在待发送日志的日志标识时,使用服务器选取函数为待发送日志选择服务器,所述服务器选取函数的输入为日志标识,输出为服务器,此时所述日志数据处理系统还包括:
记录模块,用于将已发送日志的日志标识与接收该已发送日志的服务器的对应关系记录到发送记录表中。
8.根据权利要求6所述的日志数据处理系统,其特征在于,还包括:
报告模块,设置于服务器中,用于定时向监控中心报告自身所在服务器的负载信息;
判断模块,设置于监控中心中,用于判断各个服务器负载是否均衡;
更新模块,设置于监控中心中,用于在判断模块的判断结果为不均衡时,更新服务器选取函数,并将更新后的服务器选取函数发送给所有发送端;
调整模块,设置于发送端中,用于调整所述选择模块根据更新模块更新后的服务器选取函数选择的接收待发送日志的服务器。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于中国科学院信息工程研究所,未经中国科学院信息工程研究所许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201310341764.2/1.html,转载请声明来源钻瓜专利网。