[发明专利]数据采集方法及装置有效
申请号: | 201910376859.5 | 申请日: | 2019-05-07 |
公开(公告)号: | CN110209475B | 公开(公告)日: | 2021-07-27 |
发明(设计)人: | 陈志刚 | 申请(专利权)人: | 北京明略软件系统有限公司 |
主分类号: | G06F9/48 | 分类号: | G06F9/48 |
代理公司: | 北京康信知识产权代理有限责任公司 11240 | 代理人: | 江舟 |
地址: | 100086 北京市海淀区*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 数据 采集 方法 装置 | ||
1.一种数据采集方法,其特征在于,包括:
网管侧设备获取待分配的用于采集数据的采集任务,划分所述采集任务为多个分片;
分配部分或全部所述多个分片至分布式服务器的一组采集终端程序probe,并按照预设规则将部分或全部所述多个分片分配至所述一组probe的多个probe进行处理;
在检测到所述一组probe中的第一probe的采集延迟满足预设条件时,复制所述第一probe至另一组probe中,形成第二probe,其中,所述第二probe用于执行与所述第一probe相同的采集任务。
2.根据权利要求1所述的方法,其特征在于,按照预设规则将部分或全部所述多个分片分配至所述一组probe的多个采集终端程序probe进行处理之前,所述方法还包括:
为所述一组probe中的每个probe分配分片数值。
3.根据权利要求2所述的方法,其特征在于,为所述一组probe中的每个probe分配分片数值,包括:
按照平均分片策略,为所述一组probe中的每个probe分配分片数值。
4.根据权利要求2所述的方法,其特征在于,为所述一组probe中的每个probe分配分片数值,包括:
在检测到所述一组probe中的probe发生改变时,重新为改变后组内probe分配所述分片数值。
5.根据权利要求2所述的方法,其特征在于,按照预设规则将部分或全部所述多个分片分配至所述一组probe的多个采集终端程序probe进行处理,包括:
在一个分片的任务号TASK_NO的尾数为第一数值时,将所述分片分配至分片数值中包括所述第一数值的probe。
6.根据权利要求1所述的方法,其特征在于,所述另一组probe与所述一组probe属于不同分布式服务器,或者属于同一分布式服务器。
7.一种数据采集方法,其特征在于,包括:
分布式服务器接收网管侧设备为一组采集终端probe分配的采集任务,其中,所述采集任务包括多个分片,在检测到所述一组probe中的第一probe的采集延迟满足预设条件时,复制所述第一probe至另一组probe中,形成第二probe,其中,所述第二probe用于执行与所述第一probe相同的采集任务;
将所述多个分片按照预设规则分配至所述一组probe的多个probe进行处理。
8.根据权利要求7所述的方法,其特征在于,分布式服务器接收网管侧设备为一组采集终端probe分配的采集任务之前,所述方法包括:
接收所述一组probe中主probe上报的自身Rest服务地址,作为所述一组probe的组服务地址;
并转发所述组服务地址至网管侧设备。
9.根据权利要求7所述的方法,其特征在于,所述方法还包括:
发送通知信息至所述一组probe的主probe,用于通过所述主probe通知所述一组probe内的多个probe更新采集任务。
10.一种数据采集装置,其特征在于,包括:
获取模块,用于获取待分配的用于采集数据的采集任务,划分所述采集任务为多个分片;
第一分配模块,用于分配部分或全部所述多个分片至分布式服务器的一组采集终端程序probe,并按照预设规则将部分或全部所述多个分片分配至所述一组probe的多个probe进行处理;
所述装置,还用于在检测到所述一组probe中的第一probe的采集延迟满足预设条件时,复制所述第一probe至另一组probe中,形成第二probe,其中,所述第二probe用于执行与所述第一probe相同的采集任务。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京明略软件系统有限公司,未经北京明略软件系统有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201910376859.5/1.html,转载请声明来源钻瓜专利网。
- 数据显示系统、数据中继设备、数据中继方法、数据系统、接收设备和数据读取方法
- 数据记录方法、数据记录装置、数据记录媒体、数据重播方法和数据重播装置
- 数据发送方法、数据发送系统、数据发送装置以及数据结构
- 数据显示系统、数据中继设备、数据中继方法及数据系统
- 数据嵌入装置、数据嵌入方法、数据提取装置及数据提取方法
- 数据管理装置、数据编辑装置、数据阅览装置、数据管理方法、数据编辑方法以及数据阅览方法
- 数据发送和数据接收设备、数据发送和数据接收方法
- 数据发送装置、数据接收装置、数据收发系统、数据发送方法、数据接收方法和数据收发方法
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置