[发明专利]实时数据处理方法、装置以及电子设备在审
申请号: | 202010369828.X | 申请日: | 2020-04-30 |
公开(公告)号: | CN113590705A | 公开(公告)日: | 2021-11-02 |
发明(设计)人: | 赵恒;周一新;关海南 | 申请(专利权)人: | 北京金山云网络技术有限公司 |
主分类号: | G06F16/26 | 分类号: | G06F16/26;G06F16/27;G06Q40/04;G06N20/00 |
代理公司: | 北京超凡宏宇专利代理事务所(特殊普通合伙) 11463 | 代理人: | 徐彦圣 |
地址: | 100000 北京*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 实时 数据处理 方法 装置 以及 电子设备 | ||
本申请提供了一种实时数据处理方法、装置以及电子设备,涉及数据处理技术领域,解决了对数据流实时计算的异常情况处理方法的处理效率较低的技术问题。该方法包括:获取当前时间片的实时数据的真实值;根据历史数据,计算所述当前时间片的实时数据的推测值;将所述真实值与所述推测值进行比较,得出所述真实值与所述推测值之间的差值;如果所述差值超过预设阈值,则将所述推测值推送至显示单元。
技术领域
本申请涉及数据处理技术领域,尤其是涉及一种实时数据处理方法、装置以及电子设备。
背景技术
目前,大数据场景下的数据流实时计算的场景有很多,例如,通过网络交易平台的监控大屏,可以不断的看到实时的交易额的上升、交易地点情况、快递物流的流向,等等。
但是,这种实时计算的过程存在很多风险和难以控制的场景,例如,如果某个实时环节出现错误,错误便将实时的反馈在监控大屏上,可能会使一张平滑的曲线便会变成错误的锯齿状,也可能会使一张交易数额上涨据的曲线便会呈错误的跌落状态。现有的处理这种异常情况的方法一般是通过数据修复来处理,但是,通过该方法解决这种异常情况的处理效率较低。
发明内容
本发明的目的在于提供一种实时数据处理方法、装置以及电子设备,以解决对数据流实时计算的异常情况处理方法的处理效率较低的技术问题。
第一方面,本申请实施例提供了一种实时数据处理方法,包括:
获取当前时间片的实时数据的真实值;
根据历史数据,计算所述当前时间片的实时数据的推测值;
将所述真实值与所述推测值进行比较,得出所述真实值与所述推测值之间的差值;
如果所述差值超过预设阈值,则将所述推测值推送至显示单元。
在一个可能的实现中,还包括:
如果所述差值未超过所述预设阈值,则将所述真实值推送至所述显示单元。
在一个可能的实现中,所述获取当前时间片的实时数据的真实值的步骤,包括:
将带有时间快照的采集值输入至多个实时系统中;
分别获取每个所述实时系统分别根据各自的采集值计算出的多个初步真实值;
根据所述时间快照,将所述多个初步真实值分别写入数据库中的多个时间分桶;其中,所述多个时间分桶分别与所述多个实时系统相对应;
将同一个所述时间分桶中不同的带有时间快照的初步真实值进行叠加,获得当前时间片的实时数据的真实值。
在一个可能的实现中,所述数据库为Hbase数据库。
在一个可能的实现中,所述根据历史数据,计算所述当前时间片的实时数据的推测值的步骤,包括:
获取多个时间片的历史数据;
确定每个所述时间片的历史数据的权重值;
根据多个所述历史数据及其权重值,计算得到所述当前时间片的实时数据的推测值。
在一个可能的实现中,所述多个时间片的历史数据包括:年同比数据、月同比数据、周同比数据或日同比数据。
第二方面,提供了一种实时数据处理装置,包括:
获取模块,用于获取当前时间片的实时数据的真实值;
计算模块,用于根据历史数据,计算所述当前时间片的实时数据的推测值;
比较模块,用于将所述真实值与所述推测值进行比较,得出所述真实值与所述推测值之间的差值;
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京金山云网络技术有限公司,未经北京金山云网络技术有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202010369828.X/2.html,转载请声明来源钻瓜专利网。