[发明专利]基于深度学习预训练模型的迁移学习方法及终端设备在审
申请号: | 201811473650.2 | 申请日: | 2018-12-04 |
公开(公告)号: | CN109754068A | 公开(公告)日: | 2019-05-14 |
发明(设计)人: | 许国杰;刘川;吴又奎 | 申请(专利权)人: | 中科恒运股份有限公司 |
主分类号: | G06N3/04 | 分类号: | G06N3/04;G06N3/08 |
代理公司: | 石家庄国为知识产权事务所 13120 | 代理人: | 秦敏华 |
地址: | 050090 河北省石家庄市新石*** | 国省代码: | 河北;13 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 训练模型 检测结果 终端设备 构建 迁移 学习 模型构建技术 测试数据集 训练数据集 测试数据 泛化性能 训练数据 资源消耗 数据集 预设 耗时 检测 应用 | ||
1.一种基于深度学习预训练模型的迁移学习方法,其特征在于,包括:
将数据集划分为训练数据集和测试数据集;
根据所述训练数据集中的数据,对获取的预训练模型重新训练,获得新模型;
根据所述测试数据集中的数据,对所述新模型的泛化性能进行检测获取检测结果;
当所述检测结果达到预设指标值时,则确定所述新模型为满足应用的模型。
2.如权利要求1所述的基于深度学习预训练模型的迁移学习方法,其特征在于,所述训练数据集和所述测试数据集是两个数据分布一致并且互斥的数据集合。
3.如权利要求2所述的基于深度学习预训练模型的迁移学习方法,其特征在于,所述测试数据集通过分层采样的方式在所述数据集中进行采样获得,所述数据集中除所述测试数据集之外的数据为所述训练数据集。
4.如权利要求3所述的基于深度学习预训练模型的迁移学习方法,其特征在于,所述训练数据集中的数据比所述测试数据集中的数据多。
5.如权利要求4所述的基于深度学习预训练模型的迁移学习方法,其特征在于,所述训练数据集中的数据占所述数据集的数据的比例区间为[2/3,4/5]。
6.如权利要求1-5中任一项所述的基于深度学习预训练模型的迁移学习方法,其特征在于,所述将数据集划分为训练数据集和测试数据集,包括:
将数据集进行N次随机划分,获得N组训练数据集和对应的测试数据集,所述N大于等于1。
7.如权利要求6所述的基于深度学习预训练模型的迁移学习方法,其特征在于,所述根据所述训练数据集中的数据,对获取的预训练模型重新训练,获得新模型,包括:
根据所述训练数据集中的数据,对获取的预训练模型中模型后端的层次中的训练权重重新训练,获取新的权重;
根据所述训练数据集中的数据,对所述预训练模型中模型后端的层次中的参数进行调整,获取新的参数;
根据所述预训练模型中模型前端的层次中保持不变的训练权重、所述新的权重以及所述新的参数,获得新模型。
8.一种基于深度学习预训练模型的迁移学习装置,其特征在于,包括:
划分模块,用于将数据集划分为训练数据集和测试数据集;
训练模块,用于根据所述训练数据集中的数据,对获取的预训练模型重新训练,获得新模型;
测试模块,用于根据所述测试数据集中的数据,对所述新模型的泛化性能进行检测获取检测结果;
确定模块,用于当所述检测结果达到预设指标值时,则确定所述新模型为满足应用的模型。
9.一种终端设备,包括存储器、处理器以及存储在所述存储器中并可在所述处理器上运行的计算机程序,其特征在于,所述处理器执行所述计算机程序时实现如权利要求1至7任一项所述方法的步骤。
10.一种计算机可读存储介质,所述计算机可读存储介质存储有计算机程序,其特征在于,所述计算机程序被处理器执行时实现如权利要求1至7任一项所述方法的步骤。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于中科恒运股份有限公司,未经中科恒运股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201811473650.2/1.html,转载请声明来源钻瓜专利网。