[发明专利]数据处理模型自动迭代方法、装置及电子设备有效
申请号: | 202010401984.X | 申请日: | 2020-05-13 |
公开(公告)号: | CN111625291B | 公开(公告)日: | 2023-06-27 |
发明(设计)人: | 白戈;王长虎 | 申请(专利权)人: | 北京字节跳动网络技术有限公司 |
主分类号: | G06F9/445 | 分类号: | G06F9/445;G06F8/65;G06N20/00 |
代理公司: | 北京风雅颂专利代理有限公司 11403 | 代理人: | 车英慧 |
地址: | 100041 北京市石景山区*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 数据处理 模型 自动 方法 装置 电子设备 | ||
1.一种数据处理模型自动迭代方法,其特征在于,包括:
预先配置周期性执行的子任务,所述子任务用于执行数据处理模型的自动迭代,所述子任务包括所述数据处理模型更新所需要的训练数据和测试数据;
所述预先配置周期性执行的子任务,包括:设置任务管线和更新周期;在所述任务管线中设置子任务中需要执行的更新内容;基于所述任务管线,周期性的对所述子任务中的更新内容执行更新操作;
将与数据处理模型自动迭代相关的所有子任务采用封装的形式存储至预设的任务库;
对获取到的与所述自动迭代相关的配置文件进行解析,以便于基于所述配置文件的解析结果,从所述任务库中确定一个或多个与所述数据模型更新相关的迭代子任务;
基于所述迭代子任务,按照所述配置文件中定义的执行顺序,对所述数据处理模型执行自动迭代操作。
2.根据权利要求1所述的方法,其特征在于,所述预先配置周期性执行的子任务,包括:
在子任务中设置数据处理模型更新所需要的训练数据和测试数据;
在子任务中利用视频/图片数据来所述数据处理模型;
用所述测试数据评估训练后的所述数据处理模型是否满足性能需要;
若满足,则基于所述子任务执行数据模型上线操作。
3.根据权利要求1所述的方法,其特征在于,所述将与数据处理模型自动迭代相关的所有子任务采用封装的形式存储至预设的任务库,包括:
获取所有与所述数据处理模型相关的所有子任务;
将所述子任务通过预设的数据格式进行数据封装,形成封装子任务;
将封装后的子任务存储到所述任务库中。
4.根据权利要求1所述的方法,其特征在于,所述将与数据处理模型自动迭代相关的所有子任务采用封装的形式存储至预设的任务库,包括:
获取所述任务库中封装的所有子任务;
利用管线任务对所有的子任务进行配置操作,使得配置后的子任务基于所述管线任务来执行。
5.根据权利要求1所述的方法,其特征在于,所述对获取到的与所述自动迭代相关的配置文件进行解析,包括:
获取与任务配置相关的解析文件;
基于所述配置文件中的任务名,确定是否还存在需要进行迭代的任务;
若存在,则基于解析到的任务参数,加载与所述任务参数相关的任务模块。
6.根据权利要求1所述的方法,其特征在于,所述对获取到的与所述自动迭代相关的配置文件进行解析,包括:
判断所述配置文件中的内容与上一次数据训练模型执行迭代操作时配置文件中的内容是否相同;
若是,则直接基于上一次对所述配置文件的解析结果作为本次配置文件的解析结果。
7.根据权利要求1所述的方法,其特征在于,所述基于所述迭代子任务,按照所述配置文件中定义的执行顺序,对所述数据处理模型执行自动迭代操作,包括:
判断所述自动迭代操作中是否存在执行失败的子任务;
若是,则从所述执行失败的子任务继续执行所述自动迭代操作。
8.一种数据处理模型自动迭代装置,其特征在于,包括:
配置模块,用于预先配置周期性执行的子任务,所述子任务用于执行数据处理模型的自动迭代,所述子任务包括所述数据处理模型更新所需要的训练数据和测试数据;
所述配置模块,还用于设置任务管线和更新周期;在所述任务管线中设置子任务中需要执行的更新内容;基于所述任务管线,周期性的对所述子任务中的更新内容执行更新操作;
存储模块,用于将与数据处理模型自动迭代相关的所有子任务采用封装的形式存储至预设的任务库;
解析模块,用于对获取到的与所述自动迭代相关的配置文件进行解析,以便于基于所述配置文件的解析结果,从所述任务库中确定一个或多个与所述数据模型更新相关的迭代子任务;
执行模块,用于基于所述迭代子任务,按照所述配置文件中定义的执行顺序,对所述数据处理模型执行自动迭代操作。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京字节跳动网络技术有限公司,未经北京字节跳动网络技术有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202010401984.X/1.html,转载请声明来源钻瓜专利网。