[发明专利]融合自组织映射与概率神经网络的增量式学习方法

权利要求书

1.一种融合自组织映射与概率神经网络的增量式学习方法，适于对不同类型新可用数据的增量学习，其特征在于，该方法包括以下步骤：

初始学习：利用自组织映射从原始样本中提取样本分布规律，将原始样本依据样本所属的类别，划分为多个训练数据集；然后使用每一类别的训练数据集训练得到一个独立的自组织映射；

构建概率神经网络：使用训练后自组织映射的原型向量作为模式神经元来构建概率神经网络；以及

新数据集的学习，包括：

1）如果新数据集为已知类别的数据集，则查找该已知类别的自组织映射并进行局部的调整学习得到新的自组织映射，再用新的自组织映射替换原有的该已知类别的自组织映射；以及

2）如果新数据集不是已知类别的数据集，则新训练一个独立的自组织映射，并使用其原型向量作为该类别的模式神经元，用于概率神经网络的构建。

2.根据权利要求1所述的融合自组织映射与概率神经网络的增量式学习方法，其特征在于，所述初始学习的过程如下：

令原始样本X=X₁∪X₁∪…X_m…∪X_M为初始训练集，其中X_m为类别m的训练数据集，首先，使用每个X_m训练一个自组织映射，表示为SOM_m；用K_m表示SOM_m,中原型向量的个数，c_m,k表示第k个输出节点对应的原型向量，1≤k≤K_m；I(c_m,k,X_m)表示训练样本集X_m中被映射到输出节点c_m,k的样本个数，I(c_m,k,X_m)用下式来表达：

I(c_m,k,X_m)={x|x∈X_m,BMU(x)=c_m,k}，

SOM_m第k个原型向量的重要程度，可以用下式来度量：

ρ(c_m,k)=I(c_m,k,X_m)，

使用SOM_m中的原型向量，来估计类别m的概率密度表达为：

fmSOM(x)=1(2π)d/2σdKmΣk=1Kmexp(-(x-cm,k)T(x-cm,k)2σ2),]]>

其中，对于即类别m的训练数据集，其中S_m为X_m中样本的个数，利用下述函数式来对类别m的概率密度进行估计：

fm(x)=1(2π)d/2σdSmΣk=1Smexp(-(x-xm,k)T(x-xm,k)2σ2),]]>

其中，d为训练样本的维数即自组织映射的输入节点个数d，σ为平滑因子，该平滑因子表达如下：

σ=1MΣm=1MΣi=1Km-1Σj=i+1Km||xm,i-xm,j||(Km-1)(Km-2);]]>

再结合每个原型向量的重要程度，进一步描述为：

fmSOM(x)=1(2π)d/2σdKmΣk=1Kmwm,k·exp(-(x-cm,k)T(x-cm,k)2σ2),]]>

其中，为SOM_m中第k个原型向量的权重；

最终的概率神经网络表达为：

PNN={(pm,fmSOM(x))}m=1M,]]>

其中，M为初始训练集的类别总数，p_m为第m类训练数据集的先验概率，其取值范围为：0～1；

在决策阶段，新样本x按照式下式被分类到类别m^*：

m*=argmaxm{pm·fmSOM(x)}m=1M.]]>