[发明专利]一种日志数据处理方法及装置在审
申请号: | 202111613815.3 | 申请日: | 2021-12-27 |
公开(公告)号: | CN114461381A | 公开(公告)日: | 2022-05-10 |
发明(设计)人: | 王志华;唐中平;张武生;彭华杰;汪聘;谭运保 | 申请(专利权)人: | 天翼云科技有限公司 |
主分类号: | G06F9/50 | 分类号: | G06F9/50;G06F16/18 |
代理公司: | 暂无信息 | 代理人: | 暂无信息 |
地址: | 100007 北京市东城区青*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本发明提供了一种日志数据处理方法,应用于映射归约系统,规约系统包括映射模块和规约模块,该方法包括:通过映射模块获取目标文件,确定目标文件中各用户对应的初始日志;根据各用户的初始日志数量和规约模块的平均处理量为各初始日志分配盐值;按照各初始日志所对应的用户和盐值将初始日志分发至不同规约模块中,其中,属于同一用户,但盐值不同的初始日志分发至不同规约模块中;规约模块对接收到的初始日志进行规约处理,得到输出日志文件,通过执行本发明避免了数据倾斜,加快了日志处理系统的并行处理速度,提高了日志处理系统的处理效率。 | ||
搜索关键词: | 一种 日志 数据处理 方法 装置 | ||
【主权项】:
暂无信息
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于天翼云科技有限公司,未经天翼云科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/202111613815.3/,转载请声明来源钻瓜专利网。