[发明专利]对时变分布数据进行回归预测在线迁移学习的方法在审
申请号: | 202110379573.X | 申请日: | 2021-04-08 |
公开(公告)号: | CN112949836A | 公开(公告)日: | 2021-06-11 |
发明(设计)人: | 林焱辉;常亮 | 申请(专利权)人: | 北京航空航天大学 |
主分类号: | G06N3/04 | 分类号: | G06N3/04;G06N3/08 |
代理公司: | 北京孚睿湾知识产权代理事务所(普通合伙) 11474 | 代理人: | 韩燕 |
地址: | 100191*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 分布 数据 进行 回归 预测 在线 迁移 学习 方法 | ||
1.一种对时变分布数据进行回归预测在线迁移学习的方法,其特征在于:其包括以下步骤:
S1:获取线下时变分布数据及其对应的标签,并对数据进行归一化,其中所述时变分布数据指多个传感器测量得到时间序列数据,且其分布随时间变化;
S2:将所述S1中获得的线下时变分布数据及其对应的标签按照时间先后顺序平均分为两部分,分别记为Ds1和Ds2,并再各自细分为训练组和验证组;
S3:用所述S2中的Ds1和Ds2的数据构建样本建立神经网络模型作为第一预测模型,记为LSTM-DTLN,使用训练组对所述神经网络模型进行训练,使用随机梯度下降算法更新神经网络模型中的参数,使用均方误差和多核最大均值差异作为训练时的损失函数,当验证组的预测误差停止减小时终止训练,所述LSTM-STLN包含由4层LSTM层组成的特征提取器和由2层全连接层组成的预测器;
S4:用Ds2的数据建立第二预测模型LSTM-DNN,其中包括由4层LSTM层构成的特征提取器,以及由2层全连接层构成预测器,使用均方误差作为训练时的损失函数;
S5:在在线阶段,用最近的3000个有标签的样本精调所述S3中训练完成的LSTM-DTLN模型,精调时使用均方误差作为损失函数,且特征提取器的学习率要远小于预测器的学习率,为了防止过拟合或欠拟合,精调时取训练轮数分别为得到个精调后的LSTM-DTLN;和均为正整数;
S6:利用所述S4中的LSTM-DNN和所述S5中得到的个LSTM-DTLN对在线数据进行预测,并将预测结果加权起来,从而得到最终的预测结果,其中所述在线数据依次到来,获得一条在线数据后即用LSTM-DTLN和LSTM-DNN预测其对应的标签,一段时间后,可以获得该条数据的真实标签,即可计算该条数据的预测误差;
S7:监测所述S6中的预测误差,当误差超过阈值thp时,取预测误差最小的一个LSTM-DTLN,用最近的3000个有标签的样本精调该模型,精调时使用均方误差作为损失函数,且特征提取器的学习率要远小于预测器的学习率,为了防止过拟合或欠拟合,精调时取训练轮数分别为得到个精调后的LSTM-DTLN;
S8:计算由n个从线下数据中随机选取的样本和最近的n个在线新样本学习到的特征之间的多核最大均值差异,当它超过预定阈值thd时,则用最近的数据重建LSTM-DTLN和LSTN-DNN。
2.根据权利要求1所述的对时变分布数据进行回归预测在线迁移学习的方法,其特征在于:所述第一和第二预测模型的输入数据,是由多个时间步的多个传感器监测数据构成的矩阵。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京航空航天大学,未经北京航空航天大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202110379573.X/1.html,转载请声明来源钻瓜专利网。
- 上一篇:电机和电机的主动短路的控制方法
- 下一篇:一种无碱液体速凝剂
- 数据显示系统、数据中继设备、数据中继方法、数据系统、接收设备和数据读取方法
- 数据记录方法、数据记录装置、数据记录媒体、数据重播方法和数据重播装置
- 数据发送方法、数据发送系统、数据发送装置以及数据结构
- 数据显示系统、数据中继设备、数据中继方法及数据系统
- 数据嵌入装置、数据嵌入方法、数据提取装置及数据提取方法
- 数据管理装置、数据编辑装置、数据阅览装置、数据管理方法、数据编辑方法以及数据阅览方法
- 数据发送和数据接收设备、数据发送和数据接收方法
- 数据发送装置、数据接收装置、数据收发系统、数据发送方法、数据接收方法和数据收发方法
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置