[发明专利]一种针对不完整数据的近邻模型特征选择方法及装置

说明书

本发明公开一种针对不完整数据的近邻模型特征选择方法及装置，该方法包括：步骤1、初始化特征加权向量w＝[wsubgt;1/subgt;,wsubgt;2/subgt;,...,wsubgt;m/subgt;]∈Rsupgt;m/supgt;为全1的向量；步骤2、基于给定的特征加权向量w构建不完整数据的填充损失函数；步骤3、采用交替迭代优化算法最小化步骤2中的损失函数；步骤4、基于填充后的数据构建近邻模型特征选择方法的损失函数；步骤5、采用梯度下降法优化步骤4中的损失函数；步骤6、循环执行步骤3至步骤5，直到特征加权向量的长度变化小于阈值或达到最大迭代次数；步骤7、根据最终输出的特征加权向量对特征进行降序排序，从而选择出最优的特征子集。本发明在计算填充损失时考虑了特征的重要性，能够有效地提高针对不完整数据的特征选择的分类精度。

技术领域

本发明涉及特征选择技术领域，尤其涉及一种针对不完整数据的近邻模型特征选择方法及装置。

背景技术

特征选择是一种有效的数据预处理技术，其广泛应用于图像分析、文本分析和生物信息学等领域。在实际生活中，由于机器故障或设备硬件条件有限等原因会造成很多数据集中含有缺失值，即很多领域中会出现高维不完整数据集。高维不完整数据集不仅会增加模型的时间和空间成本，还会降低模型的分类精度。尽管目前已经存在多种特征选择算法，但是它们大多是针对完整数据设计的[Tran,C.T.,et al.,Improving performance ofclassification on incomplete data using feature selection andclustering.Applied Soft Computing,2018.73:p.848-861.]，因此不适用于不完整数据集。

目前，针对不完整数据的特征选择方法通常将特征选择与数据填充看作是两个独立的过程[Zhao,Y.and Q.Long,Variable Selection in the Presence of MissingData:Imputation-based Methods.Wiley interdisciplinary reviews.Computationalstatistics,2017.9(5):p.e1402.]，即首先基于均值插补或其它准则填充不完整的数据，然后基于填充后的数据进行特征选择。由于在数据填充时没有考虑特征的重要性，因此该类方法通常会忽略一些重要的特征。

发明内容

针对现有的不完整数据的特征选择方法通常将特征选择与数据填充视为两个独立的过程，即在数据填充时没有考虑特征的重要性并因此会忽略一些重要的特征的问题，本发明提出一种针对不完整数据的近邻模型特征选择方法及装置。

为了实现上述目的，本发明采用以下技术方案：

本发明一方面提出一种针对不完整数据的近邻模型特征选择方法，包括：

步骤1：初始化特征加权向量w＝[w₁,w₂,...,w_m]∈R^m为全1的向量，其中m表示含有缺失值的数据集中特征的个数；

步骤2：基于给定的特征加权向量w构建不完整数据的填充损失函数；

步骤3：采用交替迭代优化算法最小化步骤2中的损失函数，以便填充不完整数据中的缺失成分；

步骤4：基于填充后的数据构建近邻模型特征选择方法的损失函数；

步骤5：采用梯度下降法优化步骤4中的损失函数，以便得到特征加权向量的解；

步骤6：循环执行步骤3至步骤5，直到特征加权向量的长度变化小于阈值或达到最大迭代次数；

步骤7：根据最终输出的特征加权向量对特征进行降序排序，从而选择出最优的特征子集。

进一步地，所述步骤2包括：