[发明专利]一种基于差分隐私的在线分类方法

权利要求书

1.一种基于差分隐私的在线分类方法，其特征在于，包括以下步骤：

步骤1：输入待学习的流数据；

步骤2：对流数据进行归一化处理，形成归一化的数据矩阵；

步骤3：确定Logistic分类问题的目标函数的敏感度；

步骤4：确定差分隐私算法的隐私参数；

根据对隐私保护程度的具体要求给定第t批数据学习过程中的隐私参数ε_t，ε_t取大于0的任何数，ε_t取值越小代表隐私保护程度越强，反之ε_t取值越大代表隐私保护程度越弱；

步骤5：生成目标扰动的噪声向量；

步骤6：给出目标扰动后Logistic分类问题的目标函数的梯度；

步骤7：更新分类超平面；

步骤8：重复上述步骤得到在线分类器，并给出总的隐私消耗。

2.根据权利要求1所述的基于差分隐私的在线分类方法，其特征在于，所述步骤1中：

通过一批一批的记录累积得到流数据，将最新一批数据作为输入，记第t批数据为P_t＝(Z_t，Y_t)，其中Z_t为属性数据矩阵，Y_t为类标签数据向量，要求Y_t中元素的值属于{-1，+1}，给出P_t的样本量n_t和Z_t的维度p。

3.根据权利要求2所述的基于差分隐私的在线分类方法，其特征在于，所述步骤2中：

对于n_t×P的属性数据矩阵Z_t，计算每行数据向量的二范数，记其中最大值为Max，令X_t＝Z_t/Max为归一化的属性数据矩阵，D_t＝(X_t，Y_t)为归一化的数据矩阵。

4.根据权利要求3所述的基于差分隐私的在线分类方法，其特征在于，所述步骤3中：

对于分类指标属于{-1，+1}的分类问题，具有罚项的Logistic分类模型的目标函数为：

其中，样本点(x_i，y_i)为数据集D_t＝(X_t，Y_t)中的个体，n_t为样本量，ω_t为待估计的分类超平面，λ为惩罚参数，惩罚参数需预先给定；

对于经过步骤2预处理的归一化数据矩阵D_t＝(X_t，Y_t)，Logistic分类问题的目标函数的L₂敏感度为：

这里D_t′为D_t的邻接矩阵，即数据矩阵D_t′与D_t只有一行数据不相同。

5.根据权利要求4所述的基于差分隐私的在线分类方法，其特征在于，所述步骤5中：

基于步骤3给出的敏感度与步骤4给出的隐私参数生产噪声向量b_t，具体的：

b_t＝B·N

这里B为p维单位球球面的一个随机点，N为抽取自伽马分布的随机数，其中p为形状参数，为尺度参数，尺度参数由步骤3给出的敏感度与步骤4给出的隐私参数共同确定；B的生成方式为首先生成一个[-1，1]上的p维随机向量之后通过将其转化到单位球面上，这里表示随机向量的二范数。

6.根据权利要求4所述的基于差分隐私的在线分类方法，其特征在于，所述步骤6中：

基于步骤5生成的噪声向量b_t，基于目标扰动方法的Logistic分类问题的目标函数为：

其梯度向量为：