[发明专利]一种可扩展的自适应宽度神经网络学习方法

权利要求书

1.一种可扩展的自适应宽度神经网络学习方法，其特征在于，所述自适应宽度神经网络包括P个MWRBF网络，对应对待学习数据集学习P次；

第一个MWRBF网络学习待学习数据集的标签，第二个MWRBF网络在相同的待学习数据集上学习第一个MWRBF网络的剩余误差，以此类推，直到第P个MWRBF网络在相同的待学习数据集上学习第(P-1)个MWRBF网络的剩余误差；在自适应宽度神经网络中，每个MWRBF网络分别对应不同的学习任务，不同MWRBF网络之间以级联方式组织学习过程。

2.根据权利要求1所述的可扩展的自适应宽度神经网络学习方法，其特征在于，对于某一学习阶段的P个MWRBF网络h₁，h₂，...，h_P，下采样后到P个MWRBF网络的线性层的输出为Φ₁，Φ₂，...，Φ_P，设期望输出为数据集D，则自适应宽度神经网络的输出Y为：

Y＝ΦW＝[Φ₁，Φ₂，…，Φ_P]W＝Φ₁W₁+Φ₂W₂+…+Φ_PW_P；

其中，W＝[W₁，W₂，…，W_P]，为全连接层的权值矩阵。

3.根据权利要求1所述的可扩展的自适应宽度神经网络学习方法，其特征在于，所述学习方法的具体过程为：设训练周期为N_c，将当前训练周期对应的剩余误差作为下一训练周期的初始期望输出，逐次减小训练的剩余误差；

对于每个训练周期，按以下步骤进行：

(1)对待学习数据集中的数据进行清洗操作即随机排序，再把待学习数据集X按顺序划分为N_b个训练子集，相邻两个训练子集之间的重叠因子为λ，0＜λ＜1；

(2)将第一个训练子集输入第一个MWRBF网络中，以对应的数据标签为期望输出，对第一个MWRBF网络的网络权值进行更新，并得到其网络输出对应的第一剩余误差；将该第一剩余误差作为第二个MWRBF网络的期望输出，同时将第一个训练子集输入第二个MWRBF网络中，对第二个MWRBF网络的网络权值进行更新，并得到其网络输出对应的第二剩余误差；将该第二剩余误差作为第二个MWRBF网络的期望输出，同时将第一个训练子集输入第三个MWRBF网络中；以此类推，直到得到第P个MWRBF网络输出对应的第P剩余误差，完成一次迭代过程；

(3)将前一次迭代得到的剩余误差作为下一次迭代中的第一个MWRBF网络的期望输出，重复步骤(2)的迭代过程，直到达到迭代终止条件；

(4)对于剩余的(N_b-1)个训练子集，按顺序依次执行步骤(2)和步骤(3)，即完成一个训练周期的学习。

4.根据权利要求3所述的可扩展的自适应宽度神经网络学习方法，其特征在于，所述迭代终止条件为训练后的网络对验证集的识别精度连续ε次均不再增长，3≤ε≤10，且为整数。

5.根据权利要求4所述的可扩展的自适应宽度神经网络学习方法，其特征在于，所述验证集为在学习任务开始前从原始待学习数据集中按比例取出的数据，即原始待学习数据集按比例划分为训练集和验证集，训练集即为待学习数据集。