[发明专利]适应低预算的数据标注请求方法、装置、设备及存储介质有效
申请号: | 202010767850.X | 申请日: | 2020-08-03 |
公开(公告)号: | CN111882063B | 公开(公告)日: | 2022-12-02 |
发明(设计)人: | 赵曦滨;万海;张豪;黄潇 | 申请(专利权)人: | 清华大学 |
主分类号: | G06N3/08 | 分类号: | G06N3/08;G06K9/62;G06M1/00 |
代理公司: | 北京科领智诚知识产权代理事务所(普通合伙) 11782 | 代理人: | 陈士骞 |
地址: | 100089*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 适应 预算 数据 标注 请求 方法 装置 设备 存储 介质 | ||
本说明书公开一种适应低预算的数据标注请求方法、装置、设备及存储介质,其中所述数据标注请求方法,将模型对样本预测的自信程度值与模型对该类样本的历史检测效果相结合,并将预算参数加入请求样本数据的真实标签的影响因素中,从而使模型在合理分配有限预算的条件下,更倾向于请求犯错较多类别样本的真实标签,解决了现有技术中请求向量的选取问题以及对预算影响的忽视,能够更好地应对数据不平衡分布造成的影响,通过监测环境预算的剩余情况来动态调整模型标签请求意愿的积极程度,提高模型的训练效果。
技术领域
本发明涉及机器学习领域,具体而言,涉及一种适应低预算的数据标注请求方法、装置、设备及存储介质。
背景技术
在线学习算法能够在线处理每时每刻产生的海量数据,但传统的在线学习框架要求模型对每条数据都进行训练,而在实际过程中,样本的真实标签通常都不是能够免费获取到的。在实际场景下的异常检测任务中,用于标注实际训练数据的预算通常是有限的,在处理不平衡数据流时,能否将有限的数据标注预算充分地分配给稀少的异常样本是算法异常检测效果的决定性因素。数据标注预算的有限性是在实际过程中需要面对的切实问题,主动学习机制是应对方法之一,根据模型对样本预测的自信程度来选择性地主动请求数据的真实标签进行训练,以节约有限的数据标注预算,希望通过标注模型最需要的训练数据,在预算有限的情况下尽可能地保证模型的训练效果。
现有技术中,非对称的标签请求机制能够较好地应对数据的不平衡分布,但与代价敏感机制相同,这种主动学习方式也面临着标签请求向量的选取问题。此外,目前的主动学习相关技术均没有考虑到预算的影响,只是单纯地从模型的角度出发,根据其对预测的自信度来决定是否请求数据的真实标签用于训练,以至于在不同的预算条件下模型均会提出相同的数据标注需求,这种做法显然是欠妥的。
综上,研究一种适应低预算的数据标注请求方法,将预算因素加入主动学习机制中,以提高模型异常检测的效果,成为亟待解决的问题。
发明内容
本说明书提供一种适应低预算的数据标注请求方法、装置、设备及存储介质,用以克服现有技术中存在的至少一个技术问题。
根据本说明书实施例的第一方面,提供一种适应低预算的数据标注请求方法,包括:根据预先获得的预算比例值、请求过的真实标签的计数值、处理过的样本个数的计数值以及预设的预算参数迭代公式,得到当前预算参数;每接收一个待测样本数据,通过预先训练的异常检测模型得到对该样本数据的预测结果,并根据所述预测结果计算相应的自信程度值,所述预测结果包括正常样本和异常样本;按照预测结果的分类,根据样本当前最大模长、所述当前预算参数以及分类样本上的犯错个数的计数值,得到该样本数据的请求因子,并根据请求因子和自信程度值得到概率因子;以所述概率因子为成功概率,做一次伯努利随机试验,获得试验结果;若试验结果为成功,且已消耗预算的比例值不大于所述预算比例值,则请求该样本数据的真实标签,所述已消耗预算的比例值由所述异常检测模型请求过的真实标签的计数值比上所述异常检测模型处理过的样本个数的计数值得到;若请求了该样本数据的真实标签,则将所述请求过的真实标签个数的计数值增加一;若所述预测结果与所述真实标签不一致,则将所述预测结果对应的该类样本的犯错计数值增加一;将所述处理过的样本个数的计数值增加一;根据当前请求过的真实标签的计数值、当前处理过的样本个数的计数值以及预设的预算参数迭代公式,更新当前预算参数。
优选的,所述根据预先获得的预算比例值、请求过的真实标签的计数值、处理过的样本个数的计数值以及预设的预算参数迭代公式,得到当前预算参数的步骤中,所述预算参数迭代公式包括以下形式:
其中,β为当前预算参数,β0为预先获得的预算比例值,QN为请求过的真实标签的计数值,TN为处理过的样本个数的计数值。
优选的,所述按照预测结果的分类,根据样本当前最大模长、所述当前预算参数以及分类样本上的犯错个数的计数值,得到该样本数据的请求因子,并根据请求因子和自信程度值得到概率因子的步骤,包括:
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于清华大学,未经清华大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202010767850.X/2.html,转载请声明来源钻瓜专利网。
- 数据显示系统、数据中继设备、数据中继方法、数据系统、接收设备和数据读取方法
- 数据记录方法、数据记录装置、数据记录媒体、数据重播方法和数据重播装置
- 数据发送方法、数据发送系统、数据发送装置以及数据结构
- 数据显示系统、数据中继设备、数据中继方法及数据系统
- 数据嵌入装置、数据嵌入方法、数据提取装置及数据提取方法
- 数据管理装置、数据编辑装置、数据阅览装置、数据管理方法、数据编辑方法以及数据阅览方法
- 数据发送和数据接收设备、数据发送和数据接收方法
- 数据发送装置、数据接收装置、数据收发系统、数据发送方法、数据接收方法和数据收发方法
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置