[发明专利]基于主元分析与超限学习机相结合的临床病理数据分类方法

权利要求书

1.一种基于主元分析与超限学习机相结合的临床病理数据分类方法， 其特征在于：所述分类方法包括如下步骤：

1)对临床数据进行归一化，通过主元分析进行特征提取，按特征 显著性进行特征值排序，去除显著性阈值以下的数据维度，达到数据 降维的目的；

2)数据降维后，用超限学习算法训练前馈神经网络分类器；

假设有N个训练样本(x_i，t_i)，其中x_i＝[x_i1x_i2x_i3...x_in]^T，i＝1，2，3…N，n 为样本维度，t_i＝[t_i1t_i2t_i3...x_im]^T,对于一个有个隐层神经元地单隐层网络， 设置其模型为：

Σi=1N~βig(Wi·Xj+bi)=oj,j=1,2,3...N---(6)]]>

其中g(x)为激活函数，超限学习机对激活函数没有特别的要 求，常见的激活函数有sigmoid函数和tanh函数，w_i为输入权重， β_i为连接隐层第i个神经元输出权重，

w_i＝[w_i1w_i2w_i3...w_in]^T(7)

β_i＝[β_i1β_i2β_i3...β_im]^T(8)

b_i是隐层第i个神经元地阈值，单隐层神经网络的训练目标是要使

得拟合的误差最小，即其范数趋向于0,表示为：

Σj=1N~||oj-tj||=0---(9)]]>

存在β_i，w_i，b_i，使得可进一步表示为为线性方 程：

Hβ＝T(10)

H为隐层节点的输出矩阵，β为输出权重矩阵，T为期望输出矩阵，

H(W1...WN~,b1...bN~,X1...XN)=g(W1·X1+b1)...g(WN~·X1+bN~)·····...·g(W1·XN+b1)...g(WN~·XN+bN~)---(11)]]>

β=β1T···βN~T,T=t1T···tNT,---(12)]]>

找到使得：

||H(W^i,b^i)β^-T||minw,b,β||H(Wi,bi)β-T||]]>

等价于求解最小化损失函数：

E=Σj=1N(Σi=1N~βig(Wi·Xj+bi)-tj)2;]]>

由公式(10)看出一旦输入权重w_i和阈值b_i被随机确定，隐层的输 出矩阵H便随之确定，单隐层神经网络便转换成了求解线性系统：

Hβ＝T

通过广义逆矩阵可求得输出权重矩阵

其中H⁺为H的广义逆矩阵；

3)运用训练后的前馈神经网络分类器对测试样本进行测试，得分 类结果。

2.如权利要求1所述的基于主元分析与超限学习机相结合的临床病理 数据分类方法，其特征在于：所述步骤1)中，数据降维的过程如下：

假设有一组随机样本为x₁，x₂,x₃,…，x_N，x_i＝[x_i1,x_i2,x_i3,…， x_im]^T,i＝1,2,…,N,m为样本的维数，这组样本的均值标记为

x‾=1NΣi=1i=Nxi1xi2xi3...ximT=μ1μ2μ3...μmT---(1)]]>将每个随机样本与平均值相减进行特征中心化，并得到一个N×m矩阵 集X，

X=x1-x‾x2-x‾...xN-x‾---(2)]]>

此时，每个维度上的均值均为0；

协方差定义：对于样本X和样本Y，其协方差定义为

Cov(X,Y)=E[(C-E[X])(Y-E[Y])]=1n-1[(x1-x‾)(y1-y‾)+(x2-x‾)(y2-y‾)+...+(xn-x‾)(yn-y‾)]---(3)]]>

当样本为m维数组时，它们的协方差便是协方差矩阵：

令矩阵P为：

P=XXT=x1-x‾x2-x‾...xN-x‾(x1-x‾)T(x2-x‾)T...(xN-x‾)T---(5)]]>

由公式(11)和(12)知矩阵P便是这组样本的协方差矩阵，通 过求解协方差矩阵P的特征值和特征向量，并将特征值按照大小进行 排序，

λ₁≥λ₂≥λ₃...≥λ_M

与之相对应的特征向量为：

e₁,e₂,e₃,...e_M

假设存在λ_i≈0,当i>k时，此时可取λ₁，λ₂，λ₃...λ_k对应的特征向量 e₁,e₂,e₃...e_k,选取的特征向量矩阵与原数据集内积后得到新的降维数据 集。