[发明专利]带遗忘因子的在线时序多隐含层极限学习机的应用方法

权利要求书

1.一种带遗忘因子的在线时序多隐含层极限学习机的应用方法，其特征在于包括以下步骤：

1)求一个具有多隐含层的极限学习机模型，得到该多隐含层极限学习机模型的输出表达式；

2)对上述多隐含层极限学习机模型进行实时更新，输出更新后模型的表达式。

2.根据权利要求1所述的带遗忘因子的在线时序多隐含层极限学习机的应用方法，其特征在于：

步骤1)中，求一个具有多隐含层的极限学习机模型，得到该多隐含层极限学习机模型的输出表达式，具体为：

11)给定样本和多个隐含层的网络结构，隐含层的激活函数为g，网络输出为g(a,b,X)，其中a为输入层和第一隐含层之间的权重，b为第一隐层的偏差，X为输入矩阵；

12)假设数据分批次变化，且每一批次都持续S个单位时间，在第k-th个单位时间的数据表示为N_j为j批次数据的个数；χ_k在[k k+s]的范围内有效，j＝0,1,…k.，t_i为标志变量，在第(k+1)-th个单位时间的数据表示为k为任意大的正整数，x_i为输入样本，t_i为样本标志量，th为批次。

13)假设k≥s-1，训练数据的个数远大于隐藏层节点的数目，Z_k+1为第(k+1)-th个单位时间预测出的结果，设l＝k-s+1,k-s+2,…k；数据在l-th时刻网络第一个隐含层的输出为：

(a_i,b_i)为输入层和第一个隐含层之间的权值与阈值，i＝1,...L.随机初始化；(G为隐含层激活函数，T为[k-s+1，k]内批数据样本的标志量，T_l为第l批数据样本的标志量；l为在[k-s+1，k]内的一个正整数；

得到最终隐含层的输出权值β为：

β(k)=Hk-s+1...Hk+Tk-s+1...Tk=PkHk-s+1...HkTTk-s+1...Tk]]>

且

14)假设第二个隐含层的权值和偏差为W₁,B₁，则第二个隐含层的输出为：

H1=Tk-s+1...Tkβ(k)+;]]>

15)假设W_HE＝[B₁ W₁]，则第二个隐含层的权值和偏差通过计算且假设H_E＝[1 H]^T，1为元素全为1的一维行向量，g^-1(x)为激活函数的g(x)反函数，W_HE和HE为假设的变量；

16)更新第二个隐含层的输出为H₂＝g(W_HEH_E)；更新最终隐含层的输出权值β为

17)假设第三个隐含层的权值和偏差为W₂,B₂，则第三个隐含层的输出为

H3=Tk-s+1...Tkβnew+---(1)]]>

18)假设W_HE1＝[B₂ W₂]，则第三个隐含层的权值和偏差通过计算且H_E1＝[1 H₂]^T，1为元素全为1的一维行向量；g^-1(x)为激活函数的g(x)反函数；W_HE1、HE1为为假设的变量；

更新第三个隐含层的输出为：

H₄＝g(W_HE1H_E1)(2)

19)更新最终隐含层的输出权值β为：

βnew1=H4+Tk-s+1...Tk---(3)]]>

则最终的输出为f＝β_new1H₄。