[发明专利]数据集贡献度评估方法、装置、设备及可读存储介质在审
申请号: | 202010501358.8 | 申请日: | 2020-06-04 |
公开(公告)号: | CN111652381A | 公开(公告)日: | 2020-09-11 |
发明(设计)人: | 张天豫;范力欣;吴锦和;蔡杭;李月 | 申请(专利权)人: | 深圳前海微众银行股份有限公司 |
主分类号: | G06N20/00 | 分类号: | G06N20/00 |
代理公司: | 深圳市世纪恒程知识产权代理事务所 44287 | 代理人: | 晏波 |
地址: | 518000 广东省深圳市前海深港合作区前*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 数据 贡献 评估 方法 装置 设备 可读 存储 介质 | ||
本发明公开了一种数据集贡献度评估方法、装置、设备及可读存储介质,所述方法包括:获取待评估数据集的评估量化信息,其中,所述评估量化信息是将所述待评估数据集输入预设的机器学习模型进行特征提取,并对提取到的特征数据进行量化变换得到的;计算所述评估量化信息与预设的基准量化信息之间的目标偏差值;根据所述目标偏差值评估得到所述待评估数据集的贡献度。本发明中提供了一种有效的数据集贡献度评估方案,并且该方案不需要对机器学习模型进行多次训练,降低了计算量,提高了数据集贡献度的评估效率,从而能够有效激励各个数据提供方参与模型训练。
技术领域
本发明涉及机器学习技术领域,尤其涉及一种数据集贡献度评估方法、装置、设备及可读存储介质。
背景技术
随着机器学习技术的快速发展,神经网络等机器学习模型被用于解决各种实际问题,应用越来越广泛。数据集作为机器学习模型训练过程中必不可少的重要组成部分,其重要价值一直受到社会各界的重视。由于机器学习模型的训练需要大量的数据来支持,而数据集又大都分布于不同的数据持有方,所以需要联合各个数据持有方来进行模型构建。在联合各个数据持有方进行模型构建时,需要评估各个数据持有方的数据集对模型训练的贡献度。然而目前的数据集贡献度评估方式,需要采用数据集进行多次建模,计算量大,评估效率低。例如,一种评估方法是使用所有各方的数据集建立母模型;通过删除单方数据集确定多个子模型;比较各个子模型与母模型的差异,确定被删除数据集的贡献度。这种方式需要训练多个子模型,计算量很大,贡献度评估效率较低。
发明内容
本发明的主要目的在于提供一种数据集贡献度评估方法、设备、系统及可读存储介质,旨在解决现有的数据集贡献度评估方式需要多次建模,计算量大,评估效率低的问题。
为实现上述目的,本发明提供一种数据集贡献度评估方法,所述方法包括以下步骤:
获取待评估数据集的评估量化信息,其中,所述评估量化信息是将所述待评估数据集输入机器学习模型进行特征提取,并对提取到的特征数据进行量化变换得到的,所述机器学习模型是基于预设的标准数据集训练得到的;
计算所述评估量化信息与预设的基准量化信息之间的目标偏差值,其中,所述基准量化信息是基于所述标准数据集和所述机器学习模型得到的;
根据所述目标偏差值评估得到所述待评估数据集的贡献度。
可选地,所述获取待评估数据集的评估量化信息的步骤之前,还包括:
采用所述标准数据集训练得到所述机器学习模型;
将所述标准数据集输入所述机器学习模型进行特征提取,得到所述特征提取层输出的特征数据;
采用预设变换函数对所述特征数据进行量化变换,将变换结果作为所述基准量化信息。
可选地,所述机器学习模型包括多个特征提取层,所述评估量化信息包括所述待评估数据集分别在各所述特征提取层对应的评估量化信息,所述基准量化信息包括各所述特征提取层分别对应的基准量化信息,
所述计算所述评估量化信息与预设的基准量化信息之间的目标偏差值的步骤包括:
计算各所述评估量化信息与对应特征提取层的基准量化信息之间的偏差值;
根据各所述偏差值得到所述待评估数据集对应的目标偏差值。
可选地,所述评估量化信息包括所述待评估数据集中各个标签类别的样本数据分别对应的评估量化信息,所述基准量化信息包括各所述标签类别分别对应的基准量化信息,
所述计算所述评估量化信息与预设的基准量化信息之间的目标偏差值的步骤包括:
计算各所述评估量化信息与对应标签类别的基准量化信息之间的偏差值;
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于深圳前海微众银行股份有限公司,未经深圳前海微众银行股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202010501358.8/2.html,转载请声明来源钻瓜专利网。
- 数据显示系统、数据中继设备、数据中继方法、数据系统、接收设备和数据读取方法
- 数据记录方法、数据记录装置、数据记录媒体、数据重播方法和数据重播装置
- 数据发送方法、数据发送系统、数据发送装置以及数据结构
- 数据显示系统、数据中继设备、数据中继方法及数据系统
- 数据嵌入装置、数据嵌入方法、数据提取装置及数据提取方法
- 数据管理装置、数据编辑装置、数据阅览装置、数据管理方法、数据编辑方法以及数据阅览方法
- 数据发送和数据接收设备、数据发送和数据接收方法
- 数据发送装置、数据接收装置、数据收发系统、数据发送方法、数据接收方法和数据收发方法
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置