[发明专利]面向K近邻算法用于不平衡分布数据的特征权重确定方法

摘要

本发明公开了一种面向K近邻算法用于不平衡分布数据的特征权重确定方法，其具体过程是：(1)调入训练样本，若样本描述特征中存在标称属性、二元属性或序数属性特征时，将其转化为数值型特征；(2)对训练样本的各个特征值进行归一化处理；(3)根据数据分布的不平衡程度确定各训练样本的权重系数；(4)计算样本各个特征的综合性能衡量指标；(5)根据各个特征的综合性能衡量指标确定其特征权重。与现有技术相比，本发明可以以更高的计算效率获得更为合理的特征权重，显著提高了K近邻算法对不平衡分布数据的处理能力，对作为关注重点的少数样本表现出良好的识别能力。

主权项

一种面向K近邻算法用于不平衡分布数据的特征权重确定方法，其特征在于，包括以下步骤：步骤1，调入训练样本集合X＝{X₁,X₂,...,X_N}，各个训练样本X_k,k＝1,2,...,N均用m个特征属性和1个类别属性进行描述，即X_k＝(x_k1,x_k2,...,x_km,x_kc),k＝1,2,...,N，其中x_ki,i＝1,...,m为样本X_k的特征属性；x_kc为样本X_k的类别属性，该属性定义了样本X_k的归属类别，共n类，若样本的描述特征中包含标称型、二元型或序数型特征时，需将其转化为数值型特征；步骤2，对训练样本X_k,k＝1,2,...,N的各个特征属性值进行归一化处理，得到归一化后的特征值归一化公式为：其中为归一化后的特征值，x_ki为原始特征值，x_imax,x_imin分别表示归一化前所有训练样本的第i个特征的最大值与最小值，即x_imax＝max{x_ki,k＝1,2,...,N}，x_imin＝min{x_ki,k＝1,2,...,N}；经过归一化处理后训练样本X_k表示为步骤3，对于经步骤2归一化处理后的训练样本根据公式确定样本的权重系数c_k,k＝1,2,...,N，其中N_kc为训练样本X_k所属类别的样本容量；步骤4，计算经步骤2归一化处理后的特征属性与类别属性x_c＝[x_1c,x_2c,...,x_Nc]'之间的相关性衡量指标RE_i,i＝1,2,...,m以及与其他特征属性之间的相关性衡量指标RI_i,i＝1,2,...,m，并根据RE_i,i＝1,2,...,m与RI_i,i＝1,2,...,m计算各特征的综合性能衡量指标R_i,i＝1,2,...,m；步骤5，根据步骤4中得到的各特征的综合性能衡量指标R_i,i＝1,2,...,m确定特征权重ω_i,i＝1,2,...,m，使用的公式为