[发明专利]电力规划数据采集方法、装置及智能终端在审
申请号: | 202110210685.2 | 申请日: | 2021-02-25 |
公开(公告)号: | CN112817958A | 公开(公告)日: | 2021-05-18 |
发明(设计)人: | 黄欣;吴伟杰;郇嘉嘉;蓝晓东;李耀东;高晓彬;赵敏彤;张伊宁 | 申请(专利权)人: | 广东电网有限责任公司 |
主分类号: | G06F16/215 | 分类号: | G06F16/215;G06F16/28;G06F16/951 |
代理公司: | 广州三环专利商标代理有限公司 44202 | 代理人: | 陈旭红;吴落 |
地址: | 510000 广东*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 电力 规划 数据 采集 方法 装置 智能 终端 | ||
1.一种电力规划数据采集方法,其特征在于,包括:
根据预设的时间颗粒度,在电力大数据平台上获取电力内部数据;
基于Scrapy框架,获取互联网中的电力外部数据,通过网络安全协议将所述电力外部数据迁移至内网;
将所述电力内部数据及所述电力外部数据作为电力规划数据,传输至并行数据库,并将所述电力规划数据转换为预设类型的数据;
根据docker镜像,对所述预设类型的数据进行数据清洗和修补,得到目标电力规划数据,并将所述目标电力规划数据发送至数据仓库;
根据预设数据类型与预设数据表单规则的对应关系,对所述目标电力规划数据进行处理,得到目标数据库表并存储至所述数据仓库。
2.根据权利要求1所述的电力规划数据采集方法,其特征在于,所述根据预设的时间颗粒度,在电力大数据平台上获取电力内部数据,包括:
通过JDBC对接协议或ODBC对接协议与所述电力大数据平台对接;
根据CDC数据采集方式,按照预设的时间颗粒度采集所述电力大数据平台中的电力内部数据。
3.根据权利要求2所述的电力规划数据采集方法,其特征在于,在所述根据CDC数据采集方式,按照预设的时间颗粒度采集所述电力大数据平台中的内部数据之后,还包括:通过kettle工具对所述电力内部数据进行抽取、转换并传输至所述并行数据库。
4.如权利要求1所述的电力规划数据采集方法,其特征在于,所述基于Scrapy框架,获取互联网中的电力外部数据,通过网络安全协议将所述电力外部数据迁移至内网,包括:
基于Scrapy框架生成网络爬虫,通过所述网络爬虫访问发布所述电力外部数据的网站,根据所述电力外部数据的时间颗粒度,采集所述网站发布的所述电力外部数据;
将所述电力外部数据存储至中间数据库,基于电网内部的网络安全协议,对所述中间数据库存储的所述电力外部数据进行处理,并将处理后的所述电力外部数据上传至内网服务器。
5.根据权利要求1所述的电力规划数据采集方法,其特征在于,所述将所述电力规划数据转换为预设类型的数据,包括:
根据预设数据类型,对所述电力规划数据进行分类;
通过所述并行数据库的操作性数据层,将所述分类后的电力规划数据转换为对应的数据类型下的电力规划数据并进行存储。
6.如权利要求1所述的电力规划数据采集方法,其特征在于,所述预设类型的数据包括元数据、主数据以及交易数据;所述数据仓库为greenplum分布式数据库或OLAP数据库。
7.根据权利要求1所述的电力规划数据采集方法,其特征在于,所述根据预设数据类型与预设数据表单规则的对应关系,对所述目标电力规划数据进行处理,得到目标数据库表并存储至所述数据仓库,包括:
获取所述电力规划数据的数据类型;
预设数据类型与预设数据表单规则的对应关系,获取所述电力规划数据的数据表单规则;
根据所述数据表单规则,对所述电力规划数据进行处理,得到目标数据库表并存储至所述数据仓库。
8.根据权利要求1所述的电力规划数据采集方法,其特征在于,在所述根据预设数据类型与预设数据表单规则的对应关系,对所述目标电力规划数据进行处理,得到目标数据库表并存储至所述数据仓库之后,还包括:
根据所述电力规划数据创建数据字典,所述数据字典包括行政区划字典、产业定义字典、行业分类定义字典、节假日字典、能源构成字典、电价数据字典中的至少一种。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于广东电网有限责任公司,未经广东电网有限责任公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202110210685.2/1.html,转载请声明来源钻瓜专利网。
- 数据显示系统、数据中继设备、数据中继方法、数据系统、接收设备和数据读取方法
- 数据记录方法、数据记录装置、数据记录媒体、数据重播方法和数据重播装置
- 数据发送方法、数据发送系统、数据发送装置以及数据结构
- 数据显示系统、数据中继设备、数据中继方法及数据系统
- 数据嵌入装置、数据嵌入方法、数据提取装置及数据提取方法
- 数据管理装置、数据编辑装置、数据阅览装置、数据管理方法、数据编辑方法以及数据阅览方法
- 数据发送和数据接收设备、数据发送和数据接收方法
- 数据发送装置、数据接收装置、数据收发系统、数据发送方法、数据接收方法和数据收发方法
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置