[发明专利]一种基于监督学习和半监督学习双重信息的迭代式标签噪声识别算法有效
申请号: | 201710315861.2 | 申请日: | 2017-05-02 |
公开(公告)号: | CN107292330B | 公开(公告)日: | 2021-08-06 |
发明(设计)人: | 关东海;魏红强;袁伟伟 | 申请(专利权)人: | 南京航空航天大学 |
主分类号: | G06K9/62 | 分类号: | G06K9/62 |
代理公司: | 暂无信息 | 代理人: | 暂无信息 |
地址: | 211100 *** | 国省代码: | 江苏;32 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 基于 监督 学习 双重 信息 迭代式 标签 噪声 识别 算法 | ||
1.一种基于监督学习和半监督学习双重信息的迭代式标签噪声识别方法,其特征在于,包括以下步骤:
步骤1)确定算法输入变量,包括待处理样本集L和无标签样本集U,最大迭代次数maxIter,多次投票次数numVote,噪声识别判定投票信任度numFinalConfodence,随机分块数numCross,分类器个数numClassifier,噪声识别投票信任度numConfidence,判别噪声的信任度阈值ConfidenceThreshold,初始化多次投票次数t=1,迭代次数m=1,初始化待处理样本集E=L;
步骤2)将E随机分成numCross个大小一致的子集其中i=1:n,初始化参数i=1;
步骤3)用集合中样本做训练数据,选择numClassifier个不同的分类算法,训练numClassifier个不同的分类器H1,H2,...,HnumClassifier;
步骤4)用H1,H2,...,HnumClassifier对样本集中样本分类,分别计算每个样本的numConfidence,并将计算结果存入一张表中;
步骤5)迭代执行步骤2)至步骤4),每次迭代后i值加1,直到i值等于numCross,停止迭代,计算出这一次投票完成后所有的样本的numConfidence并存入一张表中;
所述步骤4)和步骤5)中,所述的表中的每个元素,对应的是每个待处理样本集E中的每个样本以及他们被正确标记的可能性numConfidence;
步骤6)迭代执行步骤2)至步骤5),每次迭代后t值加1,直到t=numVote为止,生成numVote个表;
步骤7)综合分析numVote个表,对每个样本的numConfidence进行统计,获得每个样本e的numFinalConfidence(e),并存入一张表格中;初始化一个En,将numFinalConfidence(e)小于预定的ConfidenceThreshold的样本视为可疑样本存入En;
所述步骤7)中的ConfidenceThreshold值选定为0.1-0.4之间的一个数值;
步骤8)将E’=E-En作为训练集,基于numclassifier个分类方法,生成numclassifier个分类器,用这些分类器对无标签样本集U进行标记,得到一个样本集;
步骤9)将数据集E作为测试集,标记后的数据集作为训练集,通过加权KNN算法,计算出每个样本的numFinalConfidence(e)’,并存入一张表格中;
步骤10)将包含numFinalConfidence(e)的表格和包含numConfidence的表格中的相同样例的数值,进行相加求平均值,得到最终的Confdence表格,对于数值小于指定阈值ConfidenceThreshold的样本,被视为噪声;设检测到的噪声为则
步骤11)迭代执行步骤2)至步骤10),每次迭代后,m值加1,直到或m=maxIter为止;
步骤12)返回E值,E为删除噪声后的纯净样本集,方法结束。
2.根据权利要求1所述的基于监督学习和半监督学习双重信息的迭代式标签噪声识别方法,其特征在于:所述步骤3)中,numClassifier选定为奇数。
3.根据权利要求2所述的基于监督学习和半监督学习双重信息的迭代式标签噪声识别方法,其特征在于:设置所述的numClassifier=3。
4.根据权利要求1所述的基于监督学习和半监督学习双重信息的迭代式标签噪声识别方法,其特征在于:所述步骤7)中ConfidenceThreshold值通过独立的校验样本,计算优化;具体步骤包括:a)根据先验知识估计待处理噪声数据的噪声比,b)在校验样本中加入随机噪声,c)遍历可能的ConfidenceThreshold数值并计算该数值下识别方法对校验样本中噪声的识别准确度,d)选择具有更高识别准确度的ConfidenceThreshold。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于南京航空航天大学,未经南京航空航天大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201710315861.2/1.html,转载请声明来源钻瓜专利网。