[发明专利]天气数据获取方法及装置、计算机装置及可读存储介质有效
申请号: | 201810322422.9 | 申请日: | 2018-04-11 |
公开(公告)号: | CN108563739B | 公开(公告)日: | 2021-05-04 |
发明(设计)人: | 阮晓雯;徐亮;肖京 | 申请(专利权)人: | 平安科技(深圳)有限公司 |
主分类号: | G06F16/955 | 分类号: | G06F16/955;G06F16/951;G06F17/18 |
代理公司: | 深圳市赛恩倍吉知识产权代理有限公司 44334 | 代理人: | 杨毅玲;刘丽华 |
地址: | 518000 广东省深*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 天气 数据 获取 方法 装置 计算机 可读 存储 介质 | ||
一种天气数据获取方法,所述方法包括:从网页中抓取天气数据;解析所述天气数据中的缺失值;利用ElasticNet算法进行回归拟合,填补所述缺失值;利用Moving‑zscore算法检测所述天气数据中的异常值,剔除所述异常值;利用ElasticNet算法进行回归拟合,填补剔除的所述异常值。本发明还提供一种天气数据获取装置、计算机装置及可读存储介质。本发明可以获得高可靠性、高准确率的天气数据。
技术领域
本发明涉及数据处理技术领域,具体涉及一种天气数据获取方法及装置、计算机装置和计算机可读存储介质。
背景技术
天气数据在我们的日常生活中起着越来越重要的作用。例如,对于沿海地区和从事海上作业的人们来说,可以通过天气预报了解未来是否有台风或暴雨,减少不必要的损失。如何获得可靠的天气数据成为了一个巨大的挑战。
传统的天气数据抓取仅仅是从网络上获取天气数据,缺少对天气数据的具体内容进行判定和处理的过程,因而获得的数据并不理想。
发明内容
鉴于以上内容,有必要提出一种天气数据获取方法及装置、计算机装置和计算机可读存储介质,其可以获得高可靠性、高准确率的天气数据。
本申请的第一方面提供一种天气数据获取方法,所述方法包括:
通过网络爬虫从网页中抓取天气数据,包括:生成面向天气信息网站的API接口的种子URL以及后续的URL;向所述天气信息网站的API接口发送HTTP请求,请求访问所述API接口;对所述天气信息网站提供的数据内容进行分析和识别,以查看所述数据内容;判断所述数据内容是否为预定信息内容;若所述数据内容为预定信息内容,则抓取所述数据内容;将抓取的数据内容作为所述天气数据保存到本地;
解析所述天气数据中的缺失值;
利用ElasticNet算法进行回归拟合,填补所述缺失值;
利用Moving-zscore算法检测所述天气数据中的异常值,剔除所述异常值;
利用ElasticNet算法进行回归拟合,填补剔除的所述异常值;
假设t+1时刻的数据xt+1发生缺失,所述利用ElasticNet算法进行回归拟合,填补所述缺失值包括:
选取t+1时刻之前的24个时刻t-i,i=0,1,2,...,23,选取时间窗大小w,对于所述24个时刻中的每一个时刻t-i,得到一组数据集[xt-i-w,xt-i-w+1,...,xt-i-1],即得到24组数据集:
[xt-w,xt-w+1,...,xt-1],
[xt-w-1,xt-w,...,xt-2],
[xt-w-2,xt-w-1,...,xt-3],
…
[xt-w-23,xt-w-22,...,xt-24];
以所述24组数据集作为训练数据,对训练数据进行划分,每一组最后一个数组成集合y,每一组最后一个数以外的其他数组成集合x,集合x为:
[[xt-w,xt-w+1,...,xt-2],
[xt-w-1,xt-w,...,xt-3],
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于平安科技(深圳)有限公司,未经平安科技(深圳)有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201810322422.9/2.html,转载请声明来源钻瓜专利网。
- 数据显示系统、数据中继设备、数据中继方法、数据系统、接收设备和数据读取方法
- 数据记录方法、数据记录装置、数据记录媒体、数据重播方法和数据重播装置
- 数据发送方法、数据发送系统、数据发送装置以及数据结构
- 数据显示系统、数据中继设备、数据中继方法及数据系统
- 数据嵌入装置、数据嵌入方法、数据提取装置及数据提取方法
- 数据管理装置、数据编辑装置、数据阅览装置、数据管理方法、数据编辑方法以及数据阅览方法
- 数据发送和数据接收设备、数据发送和数据接收方法
- 数据发送装置、数据接收装置、数据收发系统、数据发送方法、数据接收方法和数据收发方法
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置