[发明专利]基于主元分析与超限学习机相结合的临床病理数据分类方法

摘要

一种基于主元分析与超限学习机相结合的临床病理数据分类方法，所述分类方法包括如下步骤：1)对临床数据进行归一化，通过主元分析进行特征提取，按特征显著性进行特征值排序，去除显著性阈值以下的数据维度，达到数据降维的目的；2)数据降维后，用超限学习算法训练前馈神经网络分类器；3)运用训练后的前馈神经网络分类器对测试样本进行测试，得分类结果。本发明提供了一种有效降低维度、简化计算、分类效果良好的基于主元分析与超限学习机相结合的临床病理数据分类方法。

主权项

一种基于主元分析与超限学习机相结合的临床病理数据分类方法，其特征在于：所述分类方法包括如下步骤：1)对临床数据进行归一化，通过主元分析进行特征提取，按特征显著性进行特征值排序，去除显著性阈值以下的数据维度，达到数据降维的目的；2)数据降维后，用超限学习算法训练前馈神经网络分类器；假设有N个训练样本(x_i，t_i)，其中x_i＝[x_i1 x_i2 x_i3 ... x_in]^T，i＝1，2，3…N，n为样本维度，t_i＝[t_i1 t_i2 t_i3 ... x_im]^T,对于一个有个隐层神经元地单隐层网络，设置其模型为：${\mathrm{\Σ}}_{i=1}^{\tilde{N}}{\mathrm{\β}}_{i}g(W_i\·X_j+b_i)=o_j,j=1,2,3...N---\left(6\right)$其中g(x)为激活函数，超限学习机对激活函数没有特别的要求，常见的激活函数有sigmoid函数和tanh函数，w_i为输入权重，β_i为连接隐层第i个神经元输出权重，w_i＝[w_i1w_i2w_i3...w_in]^T   (7)β_i＝[β_i1β_i2β_i3...β_im]^T   (8)b_i是隐层第i个神经元地阈值，单隐层神经网络的训练目标是要使得拟合的误差最小，即其范数趋向于0,表示为：${\mathrm{\Σ}}_{j=1}^{\tilde{N}}\left|\right|o_j-t_j\left|\right|=0---\left(9\right)$存在β_i，w_i，b_i，使得可进一步表示为为线性方程：Hβ＝T   (10)H为隐层节点的输出矩阵，β为输出权重矩阵，T为期望输出矩阵，$H(W_1...W_{\tilde{N}},b_1...b_{\tilde{N}},X_1...X_N)=\left[\begin{array}{ccc}g(W_1\·X_1+b_1)& ...& g(W_{\tilde{N}}\·X_1+b_{\tilde{N}})\\ \·& & \·\\ \·& & \·\\ \·& ...& \·\\ g(W_1\·X_N+b_1)& ...& g(W_{\tilde{N}}\·X_N+b_{\tilde{N}})\end{array}\right]---\left(11\right)$$\begin{array}{cc}\mathrm{\β}=\left[\begin{array}{c}{\mathrm{\β}}_1^T\\ \·\\ \·\\ \·\\ {\mathrm{\β}}_{\tilde{N}}^T\end{array}\right],& T=\left[\begin{array}{c}{t}_1^T\\ \·\\ \·\\ \·\\ t_N^T\end{array}\right]\end{array},---\left(12\right)$找到使得：$\left|\right|H({\hat{W}}_i,{\hat{b}}_i)\widehat{\mathrm{\β}}-T\left|\right|\underset{w,b,\mathrm{\β}}{\min }\left|\right|H(W_i,b_i)\mathrm{\β}-T\left|\right|$等价于求解最小化损失函数：$E={\mathrm{\Σ}}_{j=1}^N{\left({\mathrm{\Σ}}_{i=1}^{\tilde{N}}{\mathrm{\β}}_{i}g\right(W_i\·X_j+b_i)-t_j)}^2;$由公式(10)看出一旦输入权重w_i和阈值b_i被随机确定，隐层的输出矩阵H便随之确定，单隐层神经网络便转换成了求解线性系统：Hβ＝T通过广义逆矩阵可求得输出权重矩阵其中H⁺为H的广义逆矩阵；3)运用训练后的前馈神经网络分类器对测试样本进行测试，得分类结果。