[发明专利]一种基于自步学习的众包分类数据质量控制方法

摘要

本发明公开了一种基于自步学习的众包分类数据质量控制方法，属于计算机科学数据挖掘技术领域。用于多分类众包标注任务的真实分类发现，以及恶意工作者识别。首先，方法根据初始数据集性质计算样本可信度，然后选择样本，然后计算真实标签以及工作者能力，接着根据更新的能力和真实标签重新选择样本然后，在完全选择到全部的样本点之后，进一步优化，最终同时获取标注真实答案以及工作者的能力与恶意与消极工作者识别结果。实验证明，本发现的方法相比传统方法能取得更好的结果。

主权项

一种基于自步学习的众包分类数据质量控制方法，其特征在于，动态的选择样本点进行模型的学习，同时输出待标注对象的分类结果以及众包任务中的恶意工作者；其中，恶意工作者定义为能力较低或故意给出错误答案的工作者；步骤如下：(1)定义工作者总数为W，定义标注对象总数为N，K为真实分类的总数；αi为第i个工作者的能力，其取值范围为(‑∞,+∞)，ti为该工作者标注的样本个数；βj为第j个待标注对象的难度，其取值范围为(0,+∞)，dj为该对象被标注的次数，zj为第j个待标注对象的真实分类，lij表示第i个工作者标注第j个待标注对象的分类，则第i个工作者将第j个待标注对象标注为lij的概率为p(lij|zj,αi,βj)p(lij|zj,αi,βj)={11+e-αiβjlij=zj1C-1(e-αiβj1+e-αiβj)lij≠zj---(1)]]>当lij＝zj时，即该工作者标注的分类为真实分类时，公式(1)简化为公式(2)p(lij=zj|αi,βj)=11+e-αiβj---(2)]]>(2)随机初始化参数αi、βj以及zj；定义第i个工作者对第j个待标注对象标注的样本点权重为wij，则wij根据公式(3)进行计算wij=Σk=1Kp(zjk)p(lij|zjk,αi,βj)+p(wij)---(3)]]>其中，zjk表示第j个待标注对象属于第k个真实分类，1≤k≤K，p(wij)根据公式(4)进行计算p(wij)＝Beta(dj×ti,λ(W×N))   (4)其中，Beta为Beta分布，λ为调整先验的参数，其取值范围为(0,1)；定义取值区间为(0,1)的阈值σ，当wij≥σ时，则选择该样本点，并用vij＝1来表示；当wij<σ时，则不选择该样本点，并用vij＝0来表示；(3)利用步骤(2)得出的vij＝1的样本点和公式(5)来计算真实分类概率p(zj|lij,α,β,vij)=p(zj)Πivijp(lij|zj,αi,βj)Σk=1Kp(zjk)Πivijp(lij|zjk,αi,βj))---(5)]]>然后根据公式(6)和(7)以概率梯度上升的方式更新αi和βj，直到最大迭代次数∂Q∂αi=Σj=-1NΣk=1Kp(lij|zjk,αi,βj)vijδ(lij,zjk)βj---(6)]]>∂Q∂βj=Σi=1WΣk=1Kp(lij|zjk,αi,βj)vijδ(lij,zjk)αi---(7)]]>其中δ为狄拉克函数，即lij和zjk相等时为1，不相等时为0；(4)根据步骤(2)重复计算权重wij来选择新的样本点，然后计算新的p(zj|lij,α,β,vij)，并更新新的αi和βj，直到收敛；最后，对于每一个待标注对象，根据公式(2)计算所有的p(lij＝zj|αi,βj)，选择p(lij＝zj|αi,βj)取值最大的分类作为最终输出；同时，若αi<0则认为第i个工作者为恶意工作者。