[发明专利]数据埋点方法、装置、设备和存储介质有效
申请号: | 201910513734.2 | 申请日: | 2019-06-14 |
公开(公告)号: | CN110245051B | 公开(公告)日: | 2023-07-04 |
发明(设计)人: | 顾晓健 | 申请(专利权)人: | 上海中通吉网络技术有限公司 |
主分类号: | G06F11/30 | 分类号: | G06F11/30;G06F11/32;G06F11/34 |
代理公司: | 北京细软智谷知识产权代理有限责任公司 11471 | 代理人: | 王金宝 |
地址: | 201799 上*** | 国省代码: | 上海;31 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 数据 方法 装置 设备 存储 介质 | ||
本发明涉及一种数据埋点方法、装置、设备和存储介质,该方法包括:初始化指标度量器,以生成预设类型的度量指标,其中,所述预设类型包括:数据测量型、计数器型和计时器型;初始化存放所述度量指标的通道,其中,所述通道标识数据处理规则;根据所述度量指标采集预设时间间隔内的数据,并将所述数据传输至所述通道;按照与所述通道对应的存储规则将所述数据写入磁盘文件;从所述磁盘文件收集所述数据,以进行显示或分析处理。可以动态调整数据生成速度,采集的数据可以直接应用,无需将采集的数据送到数据处理中心进行处理,通过配置时间间隔和数据计算间隔减轻服务器的压力。
技术领域
本发明涉及数据处理技术领域,具体涉及一种数据埋点方法、装置、设备和存储介质。
背景技术
数据分析是获得用户需求的来源之一,通过对数据进行对比,对数据趋势进行分析,这样可以及时发现哪些环节存在问题,哪些环节有提高空间等。同时,数据分析也可以是检验功能是否有效、是否受欢迎的重要佐证,而通常情况下,这些数据大部分来自于数据埋点。
现有技术中,数据埋点领域通常可以采用以下两种方式,第一、使用面向切面技术来实现程序入口、出口进行埋点,然后将这些采样信息不断的发送到某一个消息队列或者内存数据库中,然后其他系统进行分析和展示,这种方式简单快速,但是维护麻烦且不易扩展,数据采集发生故障时会影响业务,进而导致系统可用性低;第二、使用Codahale的Metrics算法进行数据的埋点,目前被很多第三方库或者应用提供辅助统计分析,比如Jetty、Logback、Log4j、Apache HttpClient、Ehcache和Spring cloud,它还可以将度量数据发送给Ganglia和Graphite以提供图形化的监控,这种方案是目前使用较多的一种,多见于开源软件,缺点是Metrics类型有些重复且需要经过二次加工分析(如大数据实时或离线计算)后才能进行数据分析展现。
发明内容
有鉴于此,提供一种数据埋点方法、装置、设备和存储介质,以解决现有技术的数据埋点过程中后续需要其他技术手段进行数据加工才能使用、以及,在全部数据中找出需要的时间段的数据造成的操作复杂的问题。
本发明采用如下技术方案:
第一方面,本发明实施例提供一种数据埋点方法,该方法包括:
初始化指标度量器,以生成预设类型的度量指标,其中,所述预设类型包括:数据测量型、计数器型和计时器型;
初始化存放所述度量指标的通道,其中,所述通道标识数据处理规则;
根据所述度量指标采集预设时间间隔内的数据,并将所述数据传输至所述通道;
按照与所述通道对应的存储规则将所述数据写入磁盘文件;
从所述磁盘文件收集所述数据,以进行显示或分析处理。
第二方面,本发明实施例提供了一种数据埋点装置,该装置包括:
度量指标生成模块,用于初始化指标度量器,以生成预设类型的度量指标,其中,所述预设类型包括:数据测量型、计数器型和计时器型;
通道初始化模块,用于初始化存放所述度量指标的通道,其中,所述通道标识数据处理规则;
数据传输模块,用于根据所述度量指标采集预设时间间隔内的数据,并将所述数据传输至所述通道;
数据写入模块,用于按照与所述通道对应的存储规则将所述数据写入磁盘文件;
数据收集模块,用于从所述磁盘文件收集所述数据,以进行显示或分析处理。
第三方面,本申请实施例提供了一种设备,该设备包括:
处理器,以及与所述处理器相连接的存储器;
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于上海中通吉网络技术有限公司,未经上海中通吉网络技术有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201910513734.2/2.html,转载请声明来源钻瓜专利网。
- 数据显示系统、数据中继设备、数据中继方法、数据系统、接收设备和数据读取方法
- 数据记录方法、数据记录装置、数据记录媒体、数据重播方法和数据重播装置
- 数据发送方法、数据发送系统、数据发送装置以及数据结构
- 数据显示系统、数据中继设备、数据中继方法及数据系统
- 数据嵌入装置、数据嵌入方法、数据提取装置及数据提取方法
- 数据管理装置、数据编辑装置、数据阅览装置、数据管理方法、数据编辑方法以及数据阅览方法
- 数据发送和数据接收设备、数据发送和数据接收方法
- 数据发送装置、数据接收装置、数据收发系统、数据发送方法、数据接收方法和数据收发方法
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置