[发明专利]含有不可忽略缺失数据的估计方程的稳健估计方法

摘要

本发明涉及一种含有不可忽略缺失数据的估计方程的稳健估计方法，步骤为：Q(θ,Y,X)，在不可忽略缺失数据模型为logistic回归模型时，通过重要重采样算法计算插补的估计方程中包含的条件期望m(θ,x)，得到修正的估计方程然后基于修正的估计方程并利用经验似然方法求得估计方程中未知参数θ的稳健经验似然估计。本发明通过用估计方程插补含缺失数据的估计方程而非插补缺失值的方法以及经验似然法对估计参数进行稳健俺估计，成功避免了非参数核估计方法当协变量的维数较高时产生“维数祸根”的问题，大幅改进了存在不可忽略缺失数据时数据处理的精度，提高了预测准确性。

主权项

一种含有不可忽略缺失数据的估计方程的稳健估计方法，其特征在于：含有以下步骤：(一)利用数据采集工具采集完全数据和含有不可忽略缺失数据的数据，确定含有不可忽略缺失数据下响应变量的条件密度函数与完全数据下响应变量的条件密度函数之间的关系，确定上述两者之间关系的具体步骤为：(1)给定估计方程Q(θ,Y,X)以及来自联合分布函数F(y,x)的独立同分布的随机样本其中总是可以观测的，而的值是缺失的；(2)引入响应变量Y_i的示性函数δ_i，即如果Y_i可观测，则δ_i＝1，否则δ_i＝0，且满足对任意的i≠j，假设δ_i和δ_j是独立的；(3)令f(y|x,δ＝1)表示给定X＝x和δ＝1下Y的条件密度函数，f(y|x,δ＝0)表示给定X＝x和δ＝0下Y的条件密度函数；(4)假设不可忽略缺失数据的缺失数据模型为logistic回归模型，表示为：$P({\mathrm{\δ}}_i=1|X_i,Y_i)=\mathrm{\π}(X_i,Y_i)=\frac{\exp \left(g\right(X_i)+{\mathrm{\φY}}_i)}{1+\exp \left(g\right(X_i)+\mathrm{\φ}Y)}---\left(1\right)$其中，g(·)为未知函数，φ是未知的参数，参数φ决定数据是随机缺失还是非随机缺失；(5)引入指标参数向量β，假设f(y|x,δ＝1)的一个参数模型为f(y|x,δ＝1；β)，用来表示完全数据下响应变量的条件密度函数；(6)在假设的logistic回归模型下，f(y|x,δ＝0)的一个参数模型为f(y|x,δ＝0；β,φ)，用来表示含有不可忽略缺失数据下响应变量的条件密度函数，得到含有不可忽略缺失数据时响应变量的条件密度函数f(y|x,δ＝0；β,φ)与完全数据时响应变量的条件密度函数f(y|x,δ＝1；β)之间满足的指数偏斜模型，该指数偏斜模型表示为：$f\left(y\right|x,\mathrm{\δ}=0;\mathrm{\β},\mathrm{\φ})=f\left(y\right|x,\mathrm{\δ}=1;\mathrm{\β})\×\frac{\exp (-\mathrm{\φ}y)}{E\left(\exp \right(-\mathrm{\φ}Y\left)\right|x,\mathrm{\δ}=1)}---\left(2\right);$(二)获取f(y|x,δ＝0；β,φ)和f(y|x,δ＝1；β)的参数形式中的参数β和φ的估计，其具体步骤为：(1)由步骤(一)中给定的X＝x和δ＝1下Y的条件密度函数f(y|x,δ＝1)获得参数得分函数利用解得分方程得到参数β的极大似然估计(2)依据follow‑up sample，在follow‑up sampling后，如果Y_i可观测令γ_i＝1，否则令γ_i＝0；通过解得到参数φ的一个相合估计(三)利用重要重采样算法来计算含有不可忽略缺失数据时关于响应变量的条件期望m(θ,x)＝E(Q(θ,Y,X)|X＝x,δ＝0)，其具体步骤为：(1)用代替条件密度函数f(y|x,δ＝1；β)中的β，得到新的条件密度函数(2)从新得到的条件密度函数中抽取样本S＝{Y^(k),k＝1,2,…,M₂}，计算S中每个点的概率质量${\mathrm{\ω}}_k\left(\widehat{\mathrm{\φ}}\right)=\frac{\exp (-\widehat{\mathrm{\φ}}{Y}^{\left(k\right)})}{\frac{1}{M_2}{\mathrm{\Σ}}_{j=1}^{M_2}\exp (-\widehat{\mathrm{\φ}}{Y}^{\left(j\right)})},k=1,...,M_2---\left(3\right)$(3)依据概率质量从S中有放回地抽取样本记抽出的样本为：(4)通过以下公式计算$m_0^{*}(\mathrm{\θ},X_i;\widehat{\mathrm{\β}},\widehat{\mathrm{\φ}})=\frac{1}{M}\underset{j=1}{\overset{M}{\Σ}}Q(\mathrm{\θ},Y_{ij}^{*},X_i)---\left(4\right)$式中，θ为未知参数；(5)执行重要重采样算法，当执行SIR算法时，要求M₂→∞且M/M₂→0；(四)构造基于蒙特卡罗方法的估计函数其步骤为：(1)采用蒙特卡罗方法并利用步骤(三)中得到的导出估计函数$\hat{Q}(\mathrm{\θ},Y_i,X_i;\widehat{\mathrm{\β}},\widehat{\mathrm{\φ}})={\mathrm{\δ}}_{i}Q(\mathrm{\θ},Y_i,X_i)+(1-{\mathrm{\δ}}_i)m_0^{*}(\mathrm{\θ},X_i;\widehat{\mathrm{\β}},\widehat{\mathrm{\φ}})---\left(5\right);$(2)验证是渐进无偏的；(五)构造关于未知参数θ的经验似然比函数，获得未知参数θ的最大经验似然估计其具体步骤为：(1)构造关于未知参数θ的经验似然比函数R(θ)：$R\left(\mathrm{\θ}\right)=\max \left\{\underset{i=1}{\overset{n}{\Π}}\left({\mathrm{np}}_i\right)\right|p_i\≥0,\underset{i=1}{\overset{n}{\Σ}}{p}_i=1,\underset{i=1}{\overset{n}{\Σ}}{p}_i\hat{Q}(\mathrm{\θ},Y_i,X_i;\widehat{\mathrm{\β}},\widehat{\mathrm{\φ}})=0\}---\left(6\right)$(2)通过拉格朗日乘子法计算得到对数经验似然比函数log(R(θ))：$log\left(R\right(\mathrm{\θ}\left)\right)=-\underset{i=1}{\overset{n}{\Σ}}log(1+{\mathrm{\λ}}^T(\mathrm{\θ}\left)\hat{Q}\right(\mathrm{\θ},Y_i,X_i;\widehat{\mathrm{\β}},\widehat{\mathrm{\φ}}\left)\right)---\left(7\right)$其中，λ(θ)∈R^q，通过方程求解；(3)最大化对数经验似然比函数log(R(θ))，获得未知参数θ的最大经验似然估计