[发明专利]基于SparkStreaming的电力系统日志数据实时处理方法有效
申请号: | 201710951969.0 | 申请日: | 2017-10-13 |
公开(公告)号: | CN107704594B | 公开(公告)日: | 2021-02-09 |
发明(设计)人: | 宋爱波;涂金林 | 申请(专利权)人: | 东南大学 |
主分类号: | G06F16/2453 | 分类号: | G06F16/2453;G06F16/242;G06F16/2455 |
代理公司: | 南京苏高专利商标事务所(普通合伙) 32204 | 代理人: | 柏尚春 |
地址: | 210096 *** | 国省代码: | 江苏;32 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本发明公开了一种基于Spark Streaming的电力系统日志数据实时处理方法,首先针对全网日志数据流急剧增长,处理系统获取的日志数据的类别以及相关属性变化多样的问题,预定义统计模型,降低处理系统预处理的时间;然后通过对块间隔和处理时间关系的分析,发现基于块间隔的动态调整,能够使查询任务的处理时间达到最优;最后基于该方法设计了高效的动态调整策略,及时探寻到最优的块间隔,减少查询任务的处理时间,借此分析电力调度自动化系统的运行状态和轨迹,实现电力系统健康状况定性到定量的分析转换。本发明从而为电力系统日志数据的有效管理提供了一种高效、易用的实时处理方法。 | ||
搜索关键词: | 基于 sparkstreaming 电力系统 日志 数据 实时处理 方法 | ||
【主权项】:
一种基于Spark Streaming的电力系统日志数据实时处理方法,其特征在于:包括以下步骤:(1)定义不同日志类别的统计模型;(2)构建Spark Streaming块间隔与数据流处理时间的关系模型;(3)动态调整块间隔,探寻最优块间隔。
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于东南大学,未经东南大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/201710951969.0/,转载请声明来源钻瓜专利网。