[发明专利]数据采集方法、装置及电子设备有效
申请号: | 201811002119.7 | 申请日: | 2018-08-29 |
公开(公告)号: | CN109039826B | 公开(公告)日: | 2019-06-25 |
发明(设计)人: | 王锋;肖学逢;刘洋;曹堡永 | 申请(专利权)人: | 南京星邺汇捷网络科技有限公司 |
主分类号: | H04L12/26 | 分类号: | H04L12/26;H04L12/803 |
代理公司: | 北京超凡志成知识产权代理事务所(普通合伙) 11371 | 代理人: | 郭新娟 |
地址: | 210000 江苏省南京市建*** | 国省代码: | 江苏;32 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 目标网元 数据采集指令 数据采集 装置及电子设备 预设存储区 网元 采集 剩余负载量 查询目标 负荷状态 接收指令 连线状态 预设数据 存储 发送 携带 | ||
本发明提供了一种数据采集方法、装置及电子设备,涉及采集技术领域,该方法包括接收指令中心发送的数据采集指令,确定数据采集指令对应的目标网元;其中,数据采集指令中携带有目标网元的标识;根据目标网元的标识,在第一预设存储区中查询目标网元的当前状态信息的参数值;其中,第一预设存储区中存储有多个网元的当前状态信息的参数值;当前状态信息包括连线状态、负荷状态和剩余负载量;判断目标网元的当前状态信息的参数值是否符合预设数据采集标准;如果是,根据数据采集指令对目标网元中的数据进行数据采集操作。本发明提供的上述方式能够有效提升数据采集的可持续性和数据的完整性。
技术领域
本发明涉及采集技术领域,尤其是涉及一种数据采集方法、装置及电子设备。
背景技术
目前针对数据统一采集的平台,更多的是考虑平台自身的负载均衡,保障平台自身运行的稳定性和强壮性。但是针对采集对象,诸如网元的安全性和负载能力的考虑比较欠缺,容易发生由于采集平台的高并发采集动作而导致采集对象异常或者挂机的情况。
这样的情况会严重影响采集对象自身承载运行的业务,使采集对象不能够稳定运行,难以保证数据采集的可持续性以及数据的完整性。
发明内容
有鉴于此,本发明的目的在于提供一种数据采集方法、装置及电子设备,以提升数据采集的可持续性以及数据的完整性。
第一方面,本发明实施例提供了一种数据采集方法,该方法应用于网元采集系统,包括:接收指令中心发送的数据采集指令,确定数据采集指令对应的目标网元;其中,数据采集指令中携带有目标网元的标识;根据目标网元的标识,在第一预设存储区中查询目标网元的当前状态信息的参数值;其中,第一预设存储区中存储有多个网元的当前状态信息的参数值;当前状态信息包括连线状态、负荷状态和剩余负载量;判断目标网元的当前状态信息的参数值是否符合预设数据采集标准;如果是,根据数据采集指令对目标网元中的数据进行数据采集操作。
结合第一方面,本发明实施例提供了第一方面的第一种可能的实施方式,其中,上述网元采集系统上搭建有spark计算引擎;通过以下方式获取多个网元的负荷状态的参数值:按照预设优先级顺序,获取多个网元在当前时刻的多种负荷指标的数值;将多个网元的多种负荷指标的数值存入第二预设存储区中,以使spark计算引擎根据从第二预设存储区提取出的多个网元的多种负荷指标的数值,以实时流式计算方式分别计算得到每个网元在当前时刻的负荷分数;基于每个网元在当前时刻的负荷分数,确定多个网元在第一预设存储区中的负荷状态的参数值。
结合第一方面的第一种可能的实施方式,本发明实施例提供了第一方面的第二种可能的实施方式,其中,在将多个网元的多种负荷指标的数值存入第二预设存储区中之后,上述方法还包括:分别为第二预设存储区中的每种负荷指标设置失效时长;当达到失效时长时,更新失效时长对应的负荷指标的数值。
结合第一方面的第一种可能的实施方式,本发明实施例提供了第一方面的第三种可能的实施方式,其中,上述第一预设存储区是基于K-V库结构所建立的;连线状态的参数值和负荷状态的参数值的取值均为0或1。
结合第一方面的第三种可能的实施方式,本发明实施例提供了第一方面的第四种可能的实施方式,其中,上述基于每个网元在当前时刻的负荷分数,确定多个网元在第一预设存储区中的负荷状态的参数值的步骤,包括:逐一判断每个网元在当前时刻的负荷分数是否大于第一预设阈值;如果是,确定网元在第一预设存储区中的负荷状态的参数值为0;如果否,确定网元在第一预设存储区中的负荷状态的参数值为1。
结合第一方面的第三种可能的实施方式,本发明实施例提供了第一方面的第五种可能的实施方式,其中,上述方法还包括:监测每个网元的工作状态,当工作状态为在线时,确定网元在第一预设存储区中的连线状态的参数值为1;当工作状态为离线时,确定网元在第一预设存储区中的连线状态的参数值为0。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于南京星邺汇捷网络科技有限公司,未经南京星邺汇捷网络科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201811002119.7/2.html,转载请声明来源钻瓜专利网。
- 上一篇:一种网络数据保护设备及方法
- 下一篇:基于位置的社交软件热点采集系统及其方法