[发明专利]模式识别中的特征提取方法及装置

权利要求书

1.一种模式识别中的特征提取方法，其特征在于，包括步骤：

根据样本的模式原始信息确定离散的特征变量与类变量，将所有特征变量组合为特征变量集，并确定每个特征变量可能的取值；确定类变量可能的取值；设定特征子集，并把该特征子集初始化为空集；

设定联合贡献度阈值；

确定特征子集与类变量的联合贡献度；

获取所述联合贡献度大于或等于所设定联合贡献度阈值的特征子集；

所述确定特征子集与类变量的联合贡献度的步骤包括：

a、确定每个特征变量与类变量之间的互信息；

b、确定使特征变量与类变量之间的互信息最大的特征变量，将该特征变量从特征变量集中去除，并加入到特征子集中；

c、确定该特征子集与类变量的联合贡献度；

其中，特征子集与类变量的联合贡献度r_s的确定方法具体为：

r_s＝I(S；Y)/I(X；Y)

其中，I(S；Y)表示特征子集与类变量的联合互信息，

I(X；Y)表示所有特征变量与类变量的联合互信息。

2.根据权利要求1所述的模式识别中的特征提取方法，其特征在于，

所述的模式原始信息为人体症状所对应的取值，特征变量为人体的症状，类变量为病人所属的疾病类型；或者，

所述的模式原始信息为集成电路卡表面的数字图像中像素点的灰度值，特征变量为数字图像的像素点，类变量为数字值。

3.根据权利要求1所述的模式识别中的特征提取方法，其特征在于，在步骤a与步骤b之间还有步骤：从特征变量集中除去与类变量的互信息小于预定值的特征变量。

4.根据权利要求3所述的模式识别中的特征提取方法，其特征在于，所有特征变量与类变量的联合互信息是通过样本计算获得的，具体过程为：

步骤1：

用频次向量B＝(B₁，B₂，…，B_N)^T表示特征变量的值都相等的样本数，N表示总的样本数；

用频次矩阵D＝(D_ij)表示特征变量值都相等，同时类变量的值也相等的样本数，i＝1，2，…，N；j＝1，2，…，k；k表示类变量可取值的个数；

用频次向量E＝(E₁，E₂，…，E_k)^T表示类变量的值相等的样本数；

步骤2：

初始化参数：令向量B的所有元素值为1，令矩阵D和向量E的所有元素值都为0；

步骤3：

获得计算概率时用到的频次：

设i＝1，2，…，N，j＝i+1，i+2，…，N，y_i表示第i个样本的类变量取值，x_i表示第i个样本特征向量的取值，c_l表示类变量的第l个值；

如果B_i＝0，那么执行下一个i循环；

否则

如果y_i＝c_l，那么E_l＝E_l+1，l＝1，2，…，k；

如果x_i＝x_j，那么B_i＝B_i+1，B_j＝0；

如果x_i＝x_j和y_i＝c_l，那么D_il＝D_il+1，l＝1，2，…，k；

步骤4：

计算所有特征变量与类变量的联合互信息：

I=Σi=1NΣj=1kDijNlog(Dij/N(Bi/N)(Ej/N))]]>

其中，当D_ij×B_i×E_j＝0时，令log(D_ij/B_iE_j)＝0。