[发明专利]基于协方差度量因子的特征选择方法

权利要求书

1.基于协方差度量因子的特征选择方法，其特征在于，包括以下步骤：

步骤1、选取不同的文本类型数据集进行预处理操作，利用向量空间模型对文本数据进行表示，将数据中出现的文档数多于总数的25％或少于3篇的特征词去掉，之后将数据集划分为训练集和测试集；

步骤2、设置最优特征子集的大小为C，使用特征排序函数计算训练集数据每个特征词的得分，按照分数对特征词进行降序排列，选择排名为前C的特征词作为最优特征子集的元素，根据得到的最优特征子集分别完成对训练集和测试集数据的降维处理；

步骤3、利用步骤2得到的训练集数据D_train对朴素贝叶斯分类器进行训练，并将训练好的模型对测试集数据D_test中的每一个样本x预测其对应的类别完成对降维后的测试集样本的分类操作。

2.如权利要求1所述的基于协方差度量因子的特征选择方法其特征在于，所述步骤1中的预处理操作包括分词操作，并去除文本中的停用词。

3.如权利要求1所述的基于协方差度量因子的特征选择方法其特征在于，所述步骤1中将数据集划分为训练集和测试集具体为：随机选取数据集中90％的样本作为训练集数据，将剩下的10％的样本作为测试集数据。

4.如权利要求1所述的基于协方差度量因子的特征选择方法其特征在于，所述步骤2具体包括以下步骤：

步骤2.1、根据公式(1)计算训练集特征词t_i与类别c_k的协方差度量因子cov(t_i,c_k)；

式(1)中，tp表示类c_k中特征词t_i出现的文档数量，fn表示类c_k中特征词t_i没有出现的文档数量，fp表示非c_k类中特征词t_i出现的文档数量，表示数据集的文档总数；

步骤2.2、根据公式(2)计算训练集特征词t_i的三角比较度量因子TCM(t_i,c_k)得分；

TCM(t_i,c_k)＝(2 max(sin²θ,cos²θ)-1)^m|tpr-fpr| (2)

式(2)中，tpr和fpr分别表示特征词t_i在类c_k中的真正率和假正率θ表示特征词t_i对应的向量(tpr,fpr)与距离最近的坐标轴之间的夹角，参数m控制着TCM算法中三角度量因子对特征词整体分数的影响；

步骤2.3、根据公式(3)计算特征词t_i的全局得分COV-TCM(t_i)，得到带有权值的特征集合；

式(3)中，k表示类别编号，P(c_k)表示属于类c_k的文档数量在整个数据集中所占的比例；

步骤2.4、根据训练集中每个特征词的COV-TCM得分对特征进行降序排序，选择排名前C的特征词作为最优特征；

步骤2.5、分别对训练集和测试集数据进行处理，删去文档中最优特征子集不包含的特征词，保留最优特征子集包含的特征词，得到降维处理的训练集数据D_train和测试集数据D_test。

5.如权利要求4所述的基于协方差度量因子的特征选择方法其特征在于，所述步骤3具体包括以下步骤：

步骤3.1、根据公式(4)计算训练集中类别c_k的先验概率

式(4)中，N_k表示类c_k中所包含的文档总数，N表示数据集的文档总数；

步骤3.2、根据公式(5)计算训练集中类别c_k的样本均值

式(5)中，D_k表示类别为c_k的文档的集合，D_k＝{x_j|y_j＝c_k}，x_j表示D_k中第j个文档，y_j表示样本x_j对应的标签；

步骤3.3、根据公式(6)计算训练集中类别c_k的居中数据矩阵Z_k；

步骤3.4、根据公式(7)计算训练集中类别c_k针对特征t_i，i＝1,2,…,C的方差；

式(7)中，Z_ki表示类别c_k中特征t_i的居中数据，C表示降维后的训练集样本特征维度大小；

步骤3.5、根据公式(8)和(9)对测试集数据中样本x，x＝{t₁,t₂,…,t_C}进行类别的预测，返回具有最大后验概率的类，即样本对应的类别完成对测试集样本的分类操作；