[发明专利]数据处理方法、装置和模型训练方法、装置和电子设备在审
申请号: | 202210502445.4 | 申请日: | 2022-05-10 |
公开(公告)号: | CN114842926A | 公开(公告)日: | 2022-08-02 |
发明(设计)人: | 顾耀文;翟珂;张博文;吴桢钦;马松龄 | 申请(专利权)人: | 北京晶泰科技有限公司 |
主分类号: | G16C20/50 | 分类号: | G16C20/50;G16C20/70;G06K9/62 |
代理公司: | 北京汇鑫君达知识产权代理有限公司 11769 | 代理人: | 李春伟 |
地址: | 100083 北京市海淀区中*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 数据处理 方法 装置 模型 训练 电子设备 | ||
1.一种数据处理方法,其特征在于,包括:
获得训练数据集;
确定所述训练数据集中至少部分训练数据各自的难度系数,以便基于所述至少部分训练数据各自的难度系数对所述训练数据集中至少部分数据进行难度分类;
其中,所述训练数据包括分子数据,所述分子数据的难度系数是基于分子属性和/或模型训练属性来确定的。
2.根据权利要求1所述的数据处理方法,其特征在于,所述确定所述训练数据集中至少部分训练数据各自的难度系数,包括:对于所述训练数据集中的至少部分训练数据中的每一个,
获得所述训练数据的至少一个难度特征,所述难度特征包括:分子复杂度特征或者训练结果特征中至少一种;
基于所述至少一个难度特征确定所述训练数据的难度系数。
3.根据权利要求2所述的数据处理方法,其特征在于:
所述分子复杂度特征包括:原子数、键数、特定种类杂化原子数量、特定种类杂化原子占比、成环原子数、成环原子占比、手性原子占比中至少一种;
所述训练结果特征包括:预测值与标签值之间距离、样本不确定性中至少一种。
4.根据权利要求3所述的数据处理方法,其特征在于,所述样本不确定性通过如下方式得到:对于当前训练数据,计算该当前训练数据的预测概率值与决策概率阈值之间的差值。
5.根据权利要求1至4任一项所述的数据处理方法,其特征在于,还包括:
确定难度系数与训练轮数之间的对应关系,以便在针对待训练模型的特定训练轮数,确定与该特定训练轮数对应的难度系数和/或训练数据。
6.根据权利要求5所述的数据处理方法,其特征在于,所述确定难度系数与训练轮数之间的对应关系,包括:
基于难度系数的累计分布函数确定难度系数与训练轮数之间的对应关系,其中,所述难度系数的累计分布函数的变量包括难度分布函数竞争系数和训练轮数,或者所述变量包括难度分布函数竞争系数以及以下至少一种:当前训练轮数、总训练轮数、难度系数的指数幂中至少一种。
7.一种模型训练方法,其特征在于,包括:
获得训练数据集,所述训练数据集中至少部分训练数据各自具有难度系数,所述难度系数是基于根据权利要求1至5任一项所述的数据处理方法来确定的;
利用所述训练数据集中的至少部分训练数据,按照难度系数从低到高的顺序,分轮对所述待训练模型进行训练。
8.根据权利要求7所述的模型训练方法,其特征在于,所述利用所述训练数据集中的至少部分训练数据,按照难度系数从低到高的顺序,分轮对所述待训练模型进行训练,包括:
基于难度系数与训练轮数之间的对应关系确定与当前训练轮数对应的难度系数;
从所述训练数据集中获取与所述难度系数对应的目标训练数据;
基于所述目标训练数据对待训练模型进行训练。
9.根据权利要求7所述的模型训练方法,其特征在于,所述利用所述训练数据集中的至少部分训练数据,按照难度系数从低到高的顺序,分轮对所述待训练模型进行训练,包括:
基于难度系数与训练轮数之间的对应关系确定与当前训练轮数对应的难度系数;
基于所述难度系数从所述训练数据集中获取与所述难度系数对应的子训练数据集,其中,所述子训练数据集是基于训练数据的难度系数从所述训练数据集中获取的数据集;
基于所述子训练数据集中的训练数据对待训练模型进行训练。
10.根据权利要求7所述的模型训练方法,其特征在于,所述待训练模型包括预训练模型,所述训练数据存在对应的标签信息。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京晶泰科技有限公司,未经北京晶泰科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202210502445.4/1.html,转载请声明来源钻瓜专利网。
- 上一篇:工单处理方法及装置
- 下一篇:一种多功能芯片测试装置