[发明专利]一种收集日志的方法及系统在审
申请号: | 201611021611.X | 申请日: | 2016-11-16 |
公开(公告)号: | CN106776715A | 公开(公告)日: | 2017-05-31 |
发明(设计)人: | 张飞翔;张翼;温宗臣;范卫卫 | 申请(专利权)人: | 北京集奥聚合科技有限公司 |
主分类号: | G06F17/30 | 分类号: | G06F17/30 |
代理公司: | 北京和信华成知识产权代理事务所(普通合伙)11390 | 代理人: | 胡剑辉 |
地址: | 100085 北京市海*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 一种收集日志的方法,其提高Flume中数据传输的速度,解决数据传送并发性较低、数据传送速度较慢、传送数据实时性差的问题,使得Fluem根据日志路径跨Kafka将日志输出到指定的hdfs。该方法包括(1)StringBuilder按照字符添加内容,遇到/n停止,n为整数,把n提取出让其为可配置参数在配置文件中配置,以便Flume传送一个Event内容相当于传送n个之前Event内容;(2)数据经过kafka到flume,把接收到的日志进行切割,获取到日志路径,判断路径内容属于哪个hdfs路径,然后把日志发送到hdfs;(3)准备配置文件;(4)启动实时日志收集器,收集日志。还有收集日志的系统。 | ||
搜索关键词: | 一种 收集 日志 方法 系统 | ||
【主权项】:
一种收集日志的方法,其特征在于:该方法包括以下步骤:(1)StringBuilder按照字符添加内容,遇到/n停止,n为整数,把n提取出让其为可配置参数在配置文件中配置,以便Flume传送一个Event内容相当于传送n个之前Event内容;(2)数据经过kafka到flume,把接收到的日志进行切割,获取到日志路径,判断路径内容属于哪个hdfs路径,然后把日志发送到hdfs;(3)准备配置文件;(4)启动实时日志收集器,收集日志。
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京集奥聚合科技有限公司,未经北京集奥聚合科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/201611021611.X/,转载请声明来源钻瓜专利网。
- 上一篇:检索方法、装置和系统
- 下一篇:一种智能匹配销售顾问和用户的方法及设备