[发明专利]一种提供隐私保护的数据采集和回归分析方法

权利要求书

1.一种提供隐私保护的数据采集和回归分析方法，其特征在于：包括如下步骤：

步骤1：假设有n个数据提供者，从数据提供者i处获取d维属性参数向量x_i∈R^d和个人可操纵的响应变量y_i，R^d是d维属性参数向量的集合，用X＝[x_i]_i∈[n]∈R^n×d表示属性参数矩阵，R^n×d表示d维属性参数向量矩阵集合，用y＝[y_i]_i∈[n]∈Rⁿ表示响应变量向量，Rⁿ表示响应变量向量集合；设训练出的回归模型为y_i＝θ^Tx_i，在损失函数L(θ；X,y)中加入拉普拉斯噪声，并由求出最佳的预测函数系数θ^*，最终得到预测函数y_i＝θ^*Tx_i；

所述步骤1具体步骤如下：

步骤1-1：假设数据提供者i∈[n],i＝{1,2,…n}持有属性参数向量x_i∈R^d，y_i是个人可操纵的响应变量，用X＝[x_i]_i∈[n]∈R^n×d来表示属性矩阵，用y＝[y_i]_i∈[n]∈Rⁿ表示响应变量向量，t_i＝(x_i,y_i)∈D表示数据提供者i提供的所有数据记录，其中D是n条记录的集合；训练出一个回归模型，使得预测函数为y_i＝θ^Tx_i；

步骤1-2：由加噪后的损失函数求出最优的θ^*，具体步骤为：

步骤1-2-1：回归模型中加入正则化项，用岭回归模型代替传统的线性回归模型，表示如下：其中γ0为正则化项的系数；

步骤1-2-2：将上述的损失函数展开成关于θ的多项式的形式，θ是一个d维的向量，记作θ＝(θ₁,θ₂,…θ_d)^T，用表示θ₁,θ₂,…θ_d的多项式的乘积，令其中c₁,c₂,…c_d∈N，用φ_j，j∈N表示所有θ₁,θ₂,…θ_d多项式的集合,N为正整数集合，记为展开成θ₁,θ₂,…θ_d的多项式的形式，有为的系数，J是[0,∞]中的某一常数，损失函数变为

步骤1-2-3：在前的系数中加入拉普拉斯噪声得到令求θ^*＝argminL_D(θ)即得到θ^*；

步骤1-3：将求得的θ^*带入到线性回归的一般公式y_i＝θ^Tx_i里得到y_i＝θ^*Tx_i，即在加入隐私保护的前提下训练出了这组数据的回归模型。

2.根据权利要求1所述的一种提供隐私保护的数据采集和回归分析方法，其特征在于：还包括步骤2，所述步骤2：计算除去数据提供者i提供的数据时的回归参数θ_-i，与θ^*比较，计算两者之间的误差，误差越大，报酬越小。

3.根据权利要求2所述的一种提供隐私保护的数据采集和回归分析方法，其特征在于：所述步骤2包括如下步骤：

步骤2-1：步骤1得到由n个数据提供者提供的所有数据训练得到的回归模型，以及θ^*；将所有数据除去第i个数据提供者提供的t_i，计算出现在的回归模型，并求出回归参数值为θ_-i；

步骤2-2：支付给每个数据提供者的报酬π_i由θ^*与θ_-i之间的误差决定，即其中a，b为给定常数。