[发明专利]数据处理方法、装置、存储介质及处理器在审
申请号: | 201910491095.4 | 申请日: | 2019-06-06 |
公开(公告)号: | CN110288093A | 公开(公告)日: | 2019-09-27 |
发明(设计)人: | 李玮巍;吴明璞;李刚毅 | 申请(专利权)人: | 博彦科技股份有限公司 |
主分类号: | G06N20/00 | 分类号: | G06N20/00;G06F16/23;G06F16/2458 |
代理公司: | 北京康信知识产权代理有限责任公司 11240 | 代理人: | 赵囡囡 |
地址: | 100193 北京市海淀区西*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 机器学习模型 更新数据 流数据 存储介质 历史数据 时间窗口 数据处理 处理器 更新 历史数据训练 对流数据 机器模型 自动更新 监测 | ||
1.一种数据处理方法,其特征在于,包括:
监测流数据,确定所述流数据中的历史数据和更新数据,其中,所述更新数据处于更新时间窗口内,所述历史数据处于历史时间窗口内;
根据所述历史数据训练历史机器学习模型;
根据所述更新数据训练更新机器学习模型;
根据所述历史机器学习模型和所述更新机器学习模型,生成有效机器学习模型,其中,所述有效机器学习模型用于对所述流数据进行处理。
2.根据权利要求1所述方法,其特征在于,确定所述流数据中的历史数据包括:
识别所述流数据的自然周期;
根据所述自然周期确定所述历史时间窗口的长度;
将在所述流数据中所述历史时间窗口采集的数据作为历史数据存入历史数据库。
3.根据权利要求2所述的方法,其特征在于,识别所述流数据的自然周期包括以下至少之一:
识别所述流数据的来源特征,确定所述流数据的自然周期,其中,所述来源特征用于表示所述流数据中的数据对应的多个数据源,所述流数据的自然周期为多个所述数据源自然更新的周期的最小公倍数;
识别所述流数据的数据分布特征,根据所述数据分布特征确定所述流数据的自然周期。
4.根据权利要求2所述的方法,其特征在于,确定所述流数据中的更新数据包括:
根据所述流数据确定所述更新时间窗口的长度,其中,所述更新时间窗口的长度随所述更新数据的增加而增长的;
将在所述流数据中所述更新时间窗口采集的数据作为所述更新数据存入更新数据库。
5.根据权利要求4所述的方法,其特征在于,在将所述流数据中所述更新时间窗口对应的数据存入更新数据库之后,所述方法还包括:
监测所述更新时间窗口的长度;
在所述更新时间窗口的长度达到所述历史时间窗口的长度的情况下,使用所述更新数据库替换所述历史数据库,并将所述更新数据库作为新的历史数据库。
6.根据权利要求1所述的方法,其特征在于,在确定所述流数据中的历史数据和更新数据之后,所述方法还包括以下至少之一:
监视所述更新数据的数据特征和所述历史数据的数据特征是否发生改变;
监视所述流数据在所述更新时间窗口内的数据分布与所述历史时间窗口内的数据分布是否一致。
7.一种数据处理装置,其特征在于,包括:
监视单元,用于监测流数据,确定所述流数据中的历史数据和更新数据,其中,所述更新数据处于更新时间窗口内,所述历史数据处于历史时间窗口内;
第一训练单元,用于根据所述历史数据训练历史机器学习模型;
第二训练单元,用于根据所述更新数据训练更新机器学习模型;
生成单元,用于根据所述历史机器学习模型和所述更新机器学习模型,生成有效机器学习模型,其中,所述有效机器学习模型用于对所述流数据进行处理。
8.根据权利要求7所述装置,其特征在于,所述监视单元包括:
识别模块,用于识别所述流数据的自然周期;
第一确定模块,用于根据所述自然周期确定所述历史时间窗口的长度;
第一存储模块,用于将在所述流数据中所述历史时间窗口采集的数据作为历史数据存入历史数据库。
9.一种存储介质,其特征在于,所述存储介质包括存储的程序,其中,所述程序执行权利要求1至6中任意一项所述的数据处理方法。
10.一种处理器,其特征在于,所述处理器用于运行程序,其中,所述程序运行时执行权利要求1至6中任意一项所述的数据处理方法。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于博彦科技股份有限公司,未经博彦科技股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201910491095.4/1.html,转载请声明来源钻瓜专利网。