[发明专利]一种基于HBase的电网设备状态监测数据存储和查询方法及系统在审

专利信息
申请号: 201510274013.2 申请日: 2015-05-26
公开(公告)号: CN104850640A 公开(公告)日: 2015-08-19
发明(设计)人: 宋亚奇;朱永利;李莉 申请(专利权)人: 华北电力大学(保定)
主分类号: G06F17/30 分类号: G06F17/30
代理公司: 无锡睿文利通知识产权代理有限公司 32261 代理人: 韦宇昕
地址: 071003 河*** 国省代码: 河北;13
权利要求书: 查看更多 说明书: 查看更多
摘要:
搜索关键词: 一种 基于 hbase 电网 设备 状态 监测 数据 存储 查询 方法 系统
【权利要求书】:

1.一种基于HBase的电网设备状态监测数据存储和查询方 法,其特征在于,包括:

汇聚节点收集状态监测数据,并上传至HDFS主控节点;

HDFS主控节点把接收到的状态监测数据合并生成大文件, 并上传到HDFS;

MapReduce模块读取上传到HDFS中的数据,并根据读取的 数据生成rowkey,根据rowkey构建HBase表;

设置查询条件,HBase根据所述查询条件和rowkey进行查 询。

2.根据权利要求1所述的基于HBase的电网设备状态监测数 据存储和查询方法,其特征在于,将设备编号和采集时间转换为 整型,再采用Z曲线对设备编号和采集时间进行重新编码, z-order=fZ曲线变换(Int(设备编号),Int(采集时间)),把所述rowkey设计为 rowkey=设备类型编号+z-order。

3.根据权利要求2所述的基于HBase的电网设备状态监测数 据存储和查询方法,其特征在于,所述查询条件设置为关键字 Q(Q.S,Q.R)查询,其中,Q.S为设备类型集,Q.R为查询 的设备编号范围和采样时间范围,根据所述 z-order=fZ曲线变换(Int(设备编号),Int(采集时间))对Q.R进行Z曲线变换,得到 z-order的范围z-rang,根据Q.S和z-rang调用HBase的scan 接口进行查询。

4.根据权利要求3所述的基于HBase的电网设备状态监测数 据存储和查询方法,其特征在于,当汇聚节点接收的缓存数据到 预先设定阈值δ1时,将缓存中的数据发送至HDFS主控节点, HDFS主控节点按照δ1大小将接收到的缓冲数据首先存储为本地 文件,待本地文件数量累计达到预先设置的阈值时δ2,利用 SequenceFile将δ2个本地文件合并生成规模为(δ12)的大 文件,并启动文件上传至HDFS的流程。

5.根据权利要求4所述的基于HBase的电网设备状态监测数 据存储和查询方法,其特征在于,所述HBase表包括rowkey、时 间戳和列族,列族包括设备类型、设备编号和N个连续采样点数 据三列。

6.根据权利要求5所述的基于HBase的电网设备状态监测数 据存储和查询方法,其特征在于,所述汇聚节点接收状态检测数 据后进行数据清洗,并采用循环缓冲池进行数据缓存。

7.一种实施权利要求1所述方法的系统,其特征在于,包括 汇聚节点、HDFS主控节点、HDFS、HBase和查询客户端,汇聚节 点收集状态监测数据,并上传至HDFS主控节点,HDFS主控节点 把接收到的状态监测数据合并生成大文件,并上传到HDFS,HDFS 中的MapReduce模块读取上传到HDFS中的数据,并根据读取的 数据生成rowkey,根据rowkey构建HBase表,查询客户端用于 设置查询条件和接收查询结果,HBase根据所述查询条件和 rowkey进行查询。

8.根据权利要求7所述系统,其特征在于,所述MapReduce 模块将设备编号和采集时间转换为整型,再采用Z曲线对设备编 号和采集时间进行重新编码,z-order=fZ曲线变换(Int(设备编号),Int(采集时间)), 把所述rowkey设计为rowkey=设备类型编号+z-order。

9.根据权利要求8所述系统,其特征在于,所述查询条件设 置为关键字Q(Q.S,Q.R)查询,其中,Q.S为设备类型集合, Q.R为查询的设备编号范围和采样时间范围,根据所述 z-order=fZ曲线变换(Int(设备编号),Int(采集时间))对Q.R进行Z曲线变换,得到 z-order的范围z-rang,根据Q.S和z-rang调用HBase的scan 接口进行查询。

10.根据权利要求9所述系统,其特征在于,当汇聚节点接 收的缓存数据到预先设定阈值δ1时,将缓存中的数据发送至 HDFS主控节点,HDFS主控节点按照δ1大小将接收到的缓冲数据 首先存储为本地文件,待本地文件数量累计达到预先设置的阈值 时δ2,利用SequenceFile将δ2个本地文件合并生成规模为(δ 12)的大文件,并启动文件上传至HDFS的流程。

下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。

该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于华北电力大学(保定),未经华北电力大学(保定)许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服

本文链接:http://www.vipzhuanli.com/pat/books/201510274013.2/1.html,转载请声明来源钻瓜专利网。

×

专利文献下载

说明:

1、专利原文基于中国国家知识产权局专利说明书;

2、支持发明专利 、实用新型专利、外观设计专利(升级中);

3、专利数据每周两次同步更新,支持Adobe PDF格式;

4、内容包括专利技术的结构示意图流程工艺图技术构造图

5、已全新升级为极速版,下载速度显著提升!欢迎使用!

请您登陆后,进行下载,点击【登陆】 【注册】

关于我们 寻求报道 投稿须知 广告合作 版权声明 网站地图 友情链接 企业标识 联系我们

钻瓜专利网在线咨询

周一至周五 9:00-18:00

咨询在线客服咨询在线客服
tel code back_top