[发明专利]对时变分布数据进行回归预测在线迁移学习的方法在审

专利信息
申请号: 202110379573.X 申请日: 2021-04-08
公开(公告)号: CN112949836A 公开(公告)日: 2021-06-11
发明(设计)人: 林焱辉;常亮 申请(专利权)人: 北京航空航天大学
主分类号: G06N3/04 分类号: G06N3/04;G06N3/08
代理公司: 北京孚睿湾知识产权代理事务所(普通合伙) 11474 代理人: 韩燕
地址: 100191*** 国省代码: 北京;11
权利要求书: 查看更多 说明书: 查看更多
摘要:
搜索关键词: 分布 数据 进行 回归 预测 在线 迁移 学习 方法
【权利要求书】:

1.一种对时变分布数据进行回归预测在线迁移学习的方法,其特征在于:其包括以下步骤:

S1:获取线下时变分布数据及其对应的标签,并对数据进行归一化,其中所述时变分布数据指多个传感器测量得到时间序列数据,且其分布随时间变化;

S2:将所述S1中获得的线下时变分布数据及其对应的标签按照时间先后顺序平均分为两部分,分别记为Ds1和Ds2,并再各自细分为训练组和验证组;

S3:用所述S2中的Ds1和Ds2的数据构建样本建立神经网络模型作为第一预测模型,记为LSTM-DTLN,使用训练组对所述神经网络模型进行训练,使用随机梯度下降算法更新神经网络模型中的参数,使用均方误差和多核最大均值差异作为训练时的损失函数,当验证组的预测误差停止减小时终止训练,所述LSTM-STLN包含由4层LSTM层组成的特征提取器和由2层全连接层组成的预测器;

S4:用Ds2的数据建立第二预测模型LSTM-DNN,其中包括由4层LSTM层构成的特征提取器,以及由2层全连接层构成预测器,使用均方误差作为训练时的损失函数;

S5:在在线阶段,用最近的3000个有标签的样本精调所述S3中训练完成的LSTM-DTLN模型,精调时使用均方误差作为损失函数,且特征提取器的学习率要远小于预测器的学习率,为了防止过拟合或欠拟合,精调时取训练轮数分别为得到个精调后的LSTM-DTLN;和均为正整数;

S6:利用所述S4中的LSTM-DNN和所述S5中得到的个LSTM-DTLN对在线数据进行预测,并将预测结果加权起来,从而得到最终的预测结果,其中所述在线数据依次到来,获得一条在线数据后即用LSTM-DTLN和LSTM-DNN预测其对应的标签,一段时间后,可以获得该条数据的真实标签,即可计算该条数据的预测误差;

S7:监测所述S6中的预测误差,当误差超过阈值thp时,取预测误差最小的一个LSTM-DTLN,用最近的3000个有标签的样本精调该模型,精调时使用均方误差作为损失函数,且特征提取器的学习率要远小于预测器的学习率,为了防止过拟合或欠拟合,精调时取训练轮数分别为得到个精调后的LSTM-DTLN;

S8:计算由n个从线下数据中随机选取的样本和最近的n个在线新样本学习到的特征之间的多核最大均值差异,当它超过预定阈值thd时,则用最近的数据重建LSTM-DTLN和LSTN-DNN。

2.根据权利要求1所述的对时变分布数据进行回归预测在线迁移学习的方法,其特征在于:所述第一和第二预测模型的输入数据,是由多个时间步的多个传感器监测数据构成的矩阵。

下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。

该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京航空航天大学,未经北京航空航天大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服

本文链接:http://www.vipzhuanli.com/pat/books/202110379573.X/1.html,转载请声明来源钻瓜专利网。

×

专利文献下载

说明:

1、专利原文基于中国国家知识产权局专利说明书;

2、支持发明专利 、实用新型专利、外观设计专利(升级中);

3、专利数据每周两次同步更新,支持Adobe PDF格式;

4、内容包括专利技术的结构示意图流程工艺图技术构造图

5、已全新升级为极速版,下载速度显著提升!欢迎使用!

请您登陆后,进行下载,点击【登陆】 【注册】

关于我们 寻求报道 投稿须知 广告合作 版权声明 网站地图 友情链接 企业标识 联系我们

钻瓜专利网在线咨询

周一至周五 9:00-18:00

咨询在线客服咨询在线客服
tel code back_top