[发明专利]一种针对不完整数据的近邻模型特征选择方法及装置

权利要求书

1.一种针对dermatology数据集中不完整数据的近邻模型特征选择方法，其特征在于，包括：

步骤1：初始化特征加权向量w＝[w₁,w₂,...,w_m]∈R^m为全1的向量，其中m表示dermatology数据集中特征的个数；dermatology为鉴别相关皮肤病而构造的数据集，由366个样本和34个特征组成，其中8个样本中含有缺失值；若研究对象的家族中有人患研究的皮肤病中的一种，则家族历史特征的值为1，否则为0，年龄特征用来记录患者的年龄，其余特征的取值范围为0～3，0表示该特征不存在，3表示最大值，1、2表示相对中间值；

步骤2：基于给定的特征加权向量w构建dermatology中不完整数据的填充损失函数；

步骤3：采用交替迭代优化算法最小化步骤2中的损失函数，以便填充dermatology中不完整数据中的缺失成分；

步骤4：基于填充后的数据构建近邻模型特征选择方法的损失函数；

步骤5：采用梯度下降法优化步骤4中的损失函数，以便得到特征加权向量的解；

步骤6：循环执行步骤3至步骤5，直到特征加权向量的长度变化小于阈值或达到最大迭代次数；

步骤7：根据最终输出的特征加权向量对特征进行降序排序，从而选择出最优的特征子集；

所述步骤2包括：

基于已知的特征加权向量w，dermatology中不完整数据的填充损失函数为：

其中，G、H为秩为r的低秩矩阵，G∈R^n×r，H∈R^r×m，r＜＜min(n,m)，n为dermatology中的样本总数；w_q、G_p和H^q分别表示w的第q个元素、G的第p行、H的第q列；Ω＝{(p,q)|x_pq是可观测的}是X中所有可观测值的元素的索引集，X＝[x₁,x₂,...,x_n]^T∈R^n×m是dermatology对应的含有缺失成分的特征矩阵，x_pq表示矩阵X的第p行、第q列上的元素；β0是一个需要调整的超参数；

所述步骤4包括：

步骤4.1、对于填充后的任意两个样本z_p与z_q，它们间的加权欧氏距离d_pq(w)定义为：

步骤4.2、测试样本z_p选择样本z_q作为预测时的参考点的概率为：

其中，k(d)＝exp(-d/σ)，σ是核宽度,S_p、D_p分别是与样本z_p标签相同的前K₁个最近邻样本的索引集合、与样本z_p标签不同的前K₂个最近邻样本的索引集合；

步骤4.3、样本z_p被错误预测的概率p_p(w)的计算公式如下：

步骤4.4、分类误差定义为：

步骤4.5、引入正则化项，可得近邻模型特征选择方法的损失函数：

其中，λ是一个正的平衡参数，表示第l个特征的权值。