[发明专利]一种基于数据驱动的模型训练系统有效
申请号: | 202110311639.1 | 申请日: | 2021-03-24 |
公开(公告)号: | CN112883654B | 公开(公告)日: | 2023-01-31 |
发明(设计)人: | 康波;孟祥飞;孙华文;郭佳;李菲菲;高佑强 | 申请(专利权)人: | 国家超级计算天津中心 |
主分类号: | G06F30/27 | 分类号: | G06F30/27 |
代理公司: | 北京锺维联合知识产权代理有限公司 11579 | 代理人: | 丁慧玲 |
地址: | 300457 天津市经济*** | 国省代码: | 天津;12 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 基于 数据 驱动 模型 训练 系统 | ||
1.一种基于数据驱动的模型训练系统,其特征在于,包括:
初始模型构建器,设置于云服务器上,所述云服务器与超级计算机和用户终端通信连接,所述初始模型构建器用于从用户终端浏览器获取数据训练集,并根据所述数据训练集从预设的网络结构模型库中选择对应的网络结构模型;
所述初始模型构建器内设置有数据层、计算图层和训练层,所述初始模型构建器在所述数据层设定训练数据的位置,在所述计算图层设定网络结构模型的有向图结构,在所述训练层设定训练计算所需资源,所述训练计算所需资源包括节点数、训练轮次和每轮次所需数据量大小;
参数提取器,设置于所述云服务器上,所述参数提取器用于根据预设的参数框架从所述网络结构模型中提取预设参数;
所述预设的参数框架包括数据参数、模型参数和计算资源,所述参数提取器具体用于:
从所述数据层提取所述数据参数,所述数据参数包括数据源、数据格式和数据大小;
从所述计算图层提取模型参数,所述模型参数包括图的节点组成、连接关系以及所述计算图层中每个图节点对应的参数;
从所述训练层中提取训练计算所需的计算资源;
模型映射器,设置于所述云服务器上,用于选择目标深度学习框架,将所提取的预设参数映射为目标深度学习框架对应的映射数据和映射模型;
代码生成器,设置于所述超级计算机上,用于将所述映射数据和映射模型动态生成可执行的代码;
代码执行器,设置于超级计算机上,用于运行所述可执行的代码,并生成运行结果。
2.根据权利要求1所述的基于数据驱动的模型训练系统,其特征在于,
所述系统还包括网络结构模型库构建模块,用于将共性的网络结构模型以及对应的参数进行集成封装,将所述网络结构模型库中每一所述网络结构模型对应的预设的待配置参数设置为待输入状态,除所述待配置参数以外的所有参数配置为默认值。
3.根据权利要求1所述的基于数据驱动的模型训练系统,其特征在于,
所述初始模型构建器包括网络结构模型推荐单元,用于根据所述数据训练集样本数量的大小向所述用户终端推荐对应的网络结构模型。
4.根据权利要求1所述的基于数据驱动的模型训练系统,其特征在于,
所述系统还包括目标深度学习框架确定模块,用于根据超级计算机上所配置的深度学习框架以及资源使用情况,确定所述目标深度学习框架。
5.根据权利要求1所述的基于数据驱动的模型训练系统,其特征在于,
所述映射数据为所述数据参数解析得到的目标深度学习框架对应的训练数据,包括训练数据源、每训练批次数据大小、增广选项和预处理选项;
所述映射模型为由所述模型参数映射得到的目标深度学习框架对应的图表形式数据,包括json表单形式和xml表格形式。
6.根据权利要求1所述的基于数据驱动的模型训练系统,其特征在于,
代码生成器具体用于预置一个转换模板,并采用依赖库加载、数据加载、模型加载、训练配置的顺序将所述映射数据和映射模型依次转换为对应的代码。
7.根据权利要求1所述的基于数据驱动的模型训练系统,其特征在于,
所述代码执行器用于将所述可执行的代码转换为超级计算机对应的运行脚本进行运行,生成所述运行结果。
8.根据权利要求1-7中任意一项所述的基于数据驱动的模型训练系统,其特征在于,
所述系统还包括:
结果回收器,用于从所述代码执行器获取运行结果,将所述运行结果存储至云服务器,所述结果回收器将运行结果存储至网盘中,并挂载至所述云服务器上,再由所述云服务器发送给所述结果查看器;
结果查看器,设置在用户终端的浏览器上,用于根据预设的显示规则显示显示关键参数,所述关键参数包括损失参数、学习率和准确率。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于国家超级计算天津中心,未经国家超级计算天津中心许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202110311639.1/1.html,转载请声明来源钻瓜专利网。
- 上一篇:一种基于超级计算机的全要素模型训练系统
- 下一篇:一种多功能的连接适配器
- 数据显示系统、数据中继设备、数据中继方法、数据系统、接收设备和数据读取方法
- 数据记录方法、数据记录装置、数据记录媒体、数据重播方法和数据重播装置
- 数据发送方法、数据发送系统、数据发送装置以及数据结构
- 数据显示系统、数据中继设备、数据中继方法及数据系统
- 数据嵌入装置、数据嵌入方法、数据提取装置及数据提取方法
- 数据管理装置、数据编辑装置、数据阅览装置、数据管理方法、数据编辑方法以及数据阅览方法
- 数据发送和数据接收设备、数据发送和数据接收方法
- 数据发送装置、数据接收装置、数据收发系统、数据发送方法、数据接收方法和数据收发方法
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置