[发明专利]煤气井井段类型预测的代价敏感主动学习方法

摘要

本发明公开了一种煤气井井段预测的代价敏感主动学习方法，属于人工智能领域，选择最具有价值的缺失属性值进行购买，使得总代价最小。其中缺失属性值先由各属性的加权平均值进行填补，由softmax回归计算误分类代价，选择代价最小的填补方式，即为最有价值的缺失属性值。本发明的有益效果：1)本发明可以选出最有价值的属性和样本，减少了多余属性值的购买，降低了总体代价。2)在样本填补过后，将属性值齐全的样本加入初始训练集，可一定程度的提高模型的精确度。3)由于考虑了加权平均值，当数据集缺失率较高时，以加权平均值的填补可以使最终的预测精度提高。

主权项

1.一种煤气井井段类型预测的代价敏感主动学习方法，其特征在于：/n优化目标：总代价最小/n /nk-类别个数；m—属性个数；P(y_j|x_i)-某方案下第i个样本被分为第j类的概率；M-误分类代价；A-属性代价；T-教师代价；X_il-指示函数0/1，为1则表示购买相应位置的缺失属性值；/n1)初始训练集/n首先使用DP算法，产生c个聚类中心，选择这c个中心作为初始训练集，也是构成最终训练集的第一部分；方法对象：需要聚类的数据集；方法目的：以数据集中的每一个实例的密度为模型基础，将待聚类的实例进行聚类；/n2)利用初始训练集，训练出θ/n利用最大似然，对参数θ进行估计；/n代价函数：/n /n这里的i∈{1，2，…，N}，表示第i个样本，其中N是总样本个数。j∈{1，2，…，k}，表示第j个类别，其中k是总类别个数。加号后面为正则项，能使多余的θ衰减到0，并且加正则项后代价函数为凸，利用梯度下降可得到全局最优解，根据初始训练集可推导出最优参数θ；/n具体求解方法：Softmax回归；/n对于J(θ)的最小化问题，采用梯度下降法计算，Softmax的函数公式如下：/n /n其中z_j表示第j个样本的输入，a_j表示第几个第j个样本归一化后的输出；/n如果样本个数与类标签个数一致，即i＝j时：/n /n如果样本个数与类标签个数不一致，即i≠j时：/n /n在J(θ)代价函数中取出对单一数据对(x⁽ⁱ⁾,y⁽ⁱ⁾)的损失函数loss为：/n /n其中，a_k表示第k个样本的输出，y_k表示第k个样本对应的真实值，取值为0或1；/n将C对θ_j求偏导：/n /n其中L表示层数，通常指最后一层；/n将损失函数扩充到整个数据集{(x⁽¹⁾，y⁽¹⁾)，...，(x^(m)，y^(m))}上：/n /n则有：/n /n所以在进行随机梯度下降的时候，更新式为：/n /n3)使用Softmax求出样本所属的类别概率/nLogistic回归，其训练样本是/n{(x⁽¹⁾，y⁽¹⁾)，…，x^(m)，y^(m)}，y∈{-1，+1}，/n /n训练好模型中的参数θ后，给一个新的x⁽ⁱ⁾，就可以根据模型来预测x⁽ⁱ⁾对应的y⁽ⁱ⁾＝1或0的概率；/nLogistic回归处理的是二分类问题，而Softmax是在其基础上的扩展，处理的是多分类问题；/n对于训练集{(x⁽¹⁾，y⁽¹⁾)，…，(x^(m)，y^(m))}，输入类标签y⁽ⁱ⁾∈{1，2，…，k}；/n /nSoftmax回归中将x⁽ⁱ⁾分类为类别j的概率为/n /n利用这个概率来计算误分类代价；/n4)计算加权平均值/n加权平均值即将各数值乘以相应的权数，然后加总求和得到总体值，再除以总的单位数，若n个数x₁，x₂，…，x_n的权分别是w₁，w₂，…，w_n，那么加权平均值为：/n /n如果数据中各个数值为离散值，则在数据中取最小值和最大值组成区间[min，max]，并将其等分为n个区间，计算落在各个区间的数据平均值以及数据个数k₁，k₂，…，k_n，那么加权平均值为：/n /n将求得的各属性的加权平均值，用于初始的属性值填补中；/n5)求总代价/nI)属性代价/n根据样本中属性缺失的个数，进行不同的属性购买方案，选择不同的属性购买方案，属性代价不同，属性代价计算式为/n /nII)误分类代价/n根据上一步中的填补方案，不同的填补方案得到的softmax分类概率不同，选择概率最大的一个概率maxP(y_j|x_i)，将其分类为该类别，则误分类概率为(1-maxP(y_j|x_i))，误分类代价为/n(1-maxP(y_j|x_i))·M (12)/nIII)教师代价/n选择样本各属性方案的属性代价与误分类代价之和的最小值，与教师代价做比较，如果大于教师代价，则选择教师代价，直接购买标签，反之则选择该方案下的softmax分类标签；/n6)得到优化目标最优解时的方案列表/n重复第5)点里的算法，得到整个数据集中每个样本在得到优化目标最优解时的方案，构成一个整体方案列表；/n7)求预测标签/n按照得到的方案列表，对每一个样本进行相应的真实属性值购买，并用softmax求得最终的分类结果。/n