[发明专利]数据处理方法、装置、设备及存储介质在审
申请号: | 202111531760.1 | 申请日: | 2021-12-14 |
公开(公告)号: | CN114329102A | 公开(公告)日: | 2022-04-12 |
发明(设计)人: | 李佳;张云燕;杨奕凡 | 申请(专利权)人: | 腾讯科技(深圳)有限公司 |
主分类号: | G06F16/903 | 分类号: | G06F16/903;G06F11/34;G06K17/00 |
代理公司: | 北京三高永信知识产权代理有限责任公司 11138 | 代理人: | 李文静 |
地址: | 518057 广东省深圳*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 数据处理 方法 装置 设备 存储 介质 | ||
1.一种数据处理方法,其特征在于,所述方法包括:
获取输入样本集,所述输入样本集中包含新增样本以及历史记忆样本;所述新增样本包括与第一事件类别对应的事件数据样本;所述历史记忆样本包括与至少一种第二事件类别分别对应的事件数据样本;
将所述输入样本集中的样本分别输入当前模型和历史模型;获得所述当前模型中的特征提取网络输出的第一样本特征,以及所述历史模型中的特征提取网络输出的第二样本特征;所述历史模型用于将输入的事件数据分类至所述至少一种第二事件类别;所述历史记忆样本是用于训练所述历史模型的数据样本的一部分;
基于所述第一样本特征以及所述第二样本特征获取蒸馏损失值,所述蒸馏损失值用于指示特征级蒸馏损失值、不确定性损失值以及预测级蒸馏损失值中的至少一种;所述特征级蒸馏损失值用于指示所述样本特征以及所述第二样本特征之间的差异;所述不确定性损失值用于指示所述当前模型和所述历史模型对预测的不确定程度之间的差异;所述预测级蒸馏损失值用于指示所述当前模型和所述历史模型的预测结果之间的差异;
基于所述第一样本特征,获取所述当前模型对所述输入样本集中的样本的预测结果;
基于所述当前模型对所述输入样本集中的样本的预测结果获取预测损失值;所述预测损失值用于指示所述当前模型对所述输入样本集中的样本的预测偏差;
基于所述蒸馏损失值以及所述预测损失值,对所述当前模型进行参数更新;其中,收敛后的所述当前模型用于将输入的事件数据分类至所述第一事件类别以及所述至少一种第二事件类别。
2.根据权利要求1所述的方法,其特征在于,响应于所述蒸馏损失值包括所述特征级蒸馏损失值,所述基于所述第一样本特征以及所述第二样本特征获取蒸馏损失值,包括:
基于所述第一样本特征、所述第二样本特征以及特征级蒸馏损失函数,获得所述特征级蒸馏损失值。
3.根据权利要求2所述的方法,其特征在于,所述基于所述第一样本特征、所述第二样本特征以及特征级蒸馏损失函数,获得所述特征级蒸馏损失值,包括:
对所述第一样本特征以及所述第二样本特征进行归一化处理,获得所述第一样本特征以及所述第二样本特征各自的归一化特征;
通过所述特征级蒸馏损失函数,对所述第一样本特征以及所述第二样本特征各自的归一化特征进行处理,获得特征级蒸馏损失值。
4.根据权利要求1所述的方法,其特征在于,响应于所述蒸馏损失值包括所述不确定性损失值,所述基于所述第一样本特征以及所述第二样本特征获取蒸馏损失值,包括:
基于所述第一样本特征以及所述第二样本特征,获取所述当前模型以及所述历史模型各自的不确定性数值;所述不确定性数值用于指示模型对预测的不确定程度;
基于所述当前模型以及所述历史模型各自的不确定性数值,获取所述不确定性损失值;所述不确定性数值用于指示模型对预测的不确定程度。
5.根据权利要求4所述的方法,其特征在于,所述基于所述第一样本特征以及所述第二样本特征,获取所述当前模型以及所述历史模型各自的不确定性数值,包括:
通过所述当前模型中的不确定性检测网络,分别对所述第一样本特征以及所述第二样本特征进行处理,获得所述当前模型以及所述历史模型各自的不确定性数值。
6.根据权利要求1所述的方法,其特征在于,响应于所述蒸馏损失值包括所述预测级蒸馏损失值,所述基于所述第一样本特征以及所述第二样本特征获取蒸馏损失值,包括:
基于所述第一样本特征以及所述第二样本特征,获取所述当前模型以及所述历史模型各自的逻辑层特征;所述逻辑层特征是模型的分类层的输入特征;
基于所述当前模型以及所述历史模型各自的逻辑层特征,获取所述预测级蒸馏损失值。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于腾讯科技(深圳)有限公司,未经腾讯科技(深圳)有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202111531760.1/1.html,转载请声明来源钻瓜专利网。
- 上一篇:一种可提高通信技术产品展示效果的展示机构
- 下一篇:一种兵棋棋盘生成方法