[发明专利]模型训练方法、装置及计算机设备有效
申请号: | 202011462461.2 | 申请日: | 2020-12-11 |
公开(公告)号: | CN112560938B | 公开(公告)日: | 2023-08-25 |
发明(设计)人: | 张杨;刘方奇 | 申请(专利权)人: | 上海哔哩哔哩科技有限公司 |
主分类号: | G06F18/214 | 分类号: | G06F18/214;G06F16/182;G06Q30/0251 |
代理公司: | 北京英特普罗知识产权代理有限公司 11015 | 代理人: | 邓小玲;王勇 |
地址: | 200433 上海市*** | 国省代码: | 上海;31 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 模型 训练 方法 装置 计算机 设备 | ||
1.一种模型训练方法,其特征在于,所述方法包括:
获取离线用户数据集,将所述离线用户数据集按产生时间的先后顺序有序地存储到目标存储单元;
接收目标时间区段的离线用户数据拉取请求;
根据所述离线用户数据拉取请求在所述目标存储单元中查询出对应于所述目标时间区段的目标离线用户数据集;
将所述目标离线用户数据集从所述目标存储单元中拉取出来,并根据所述目标离线用户数据集生成对应的训练数据用于对预设的模型进行模型训练;
其中,当所述离线用户数据集包括相同产生时间的N条离线用户数据时,所述将所述离线用户数据集按产生时间的先后顺序有序地存储到目标存储单元,包括:
在所述目标存储单元中建立N个分区;
通过控制存储速度的方式将同一产生时间的N条离线用户数据分别存储到所述N个分区的同一个排序位置。
2.如权利要求1所述的模型训练方法,其特征在于,所述目标存储单元为Hadoop分布式文件系统。
3.如权利要求1或2中任一项所述的模型训练方法,其特征在于,所述将所述离线用户数据集按产生时间的先后顺序有序地存储到目标存储单元包括:
识别出所述离线用户数据集中的每一条离线用户数据的产生时间;
根据所述产生时间的先后顺序将所述离线用户数据集存储到所述目标存储单元。
4.如权利要求1所述的模型训练方法,其特征在于,所述根据所述离线用户数据拉取请求在所述目标存储单元中查询出对应于所述目标时间区段的目标离线用户数据集包括:
对所述目标存储单元中的每一条离线用户数据抓取快照维表,所述快照维表包括离线用户数据的产生时间;
查找出所述产生时间处于所述离线用户数据拉取请求对应的时间范围的所有快照维表,记录为快照维表集;
将所述快照维表集对应的所有离线用户数据记录为所述目标离线用户数据。
5.如权利要求4所述的模型训练方法,其特征在于,所述对所述目标存储单元中的每一条离线用户数据抓取快照维表包括:
根据预设的数据格式识别出每一条离线用户数据中的目标字段数据;
将每一条离线用户数据中的所述目标字段数据截取出来作为所述每一条离线用户数据对应的快照维表。
6.如权利要求1所述的模型训练方法,其特征在于,当所述离线用户数据拉取请求至少包括第一时间区段和第二时间区段对应的第一离线用户数据集和第二离线用户数据集的拉取请求时,所述方法还包括:
通过异步方式同时并发地执行:将所述第一离线用户数据集从所述目标存储单元中拉取出来以及在所述目标存储单元中查询出对应于第二离线用户数据集。
7.一种模型训练装置,其特征在于,所述装置包括:
获取模块,用于获取离线用户数据集,将所述离线用户数据集按产生时间的先后顺序有序地存储到目标存储单元;
接收模块,用于接收目标时间区段的离线用户数据拉取请求;
查询模块,用于根据所述离线用户数据拉取请求在所述目标存储单元中查询出对应于所述目标时间区段的目标离线用户数据集;
拉取模块,用于将所述目标离线用户数据集从所述目标存储单元中拉取出来;
训练模块,用于根据所述目标离线用户数据集生成对应的训练数据用于对预设的模型进行模型训练;
所述获取模块,还用于:当所述离线用户数据集包括相同产生时间的N条离线用户数据时,所述将所述离线用户数据集按产生时间的先后顺序有序地存储到目标存储单元,包括:在所述目标存储单元中建立N个分区;通过控制存储速度的方式将同一产生时间的N条离线用户数据分别存储到所述N个分区的同一个排序位置。
8.一种计算机设备,其特征在于,所述计算机设备包括存储器、处理器,所述存储器上存储有可在所述处理器上运行的计算机程序,所述计算机程序被所述处理器执行时实现如权利要求1~6中任一项所述的模型训练方法的步骤。
9.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质存储有计算机程序,所述计算机程序可被至少一个处理器执行,以使所述至少一个处理器执行如权利要求1~6中任一项所述的模型训练方法的步骤。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于上海哔哩哔哩科技有限公司,未经上海哔哩哔哩科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202011462461.2/1.html,转载请声明来源钻瓜专利网。
- 上一篇:一种智慧型机器人自动存取密集架
- 下一篇:一种激光熔注强化铁合金表面的方法