[发明专利]数据处理方法、装置、设备、存储介质及计算机程序产品有效
申请号: | 202110645985.3 | 申请日: | 2021-06-10 |
公开(公告)号: | CN113253938B | 公开(公告)日: | 2021-11-05 |
发明(设计)人: | 张永康;高杨;陈炳钢 | 申请(专利权)人: | 北京世纪好未来教育科技有限公司 |
主分类号: | G06F3/06 | 分类号: | G06F3/06;G06F9/455;G06F16/188 |
代理公司: | 北京合智同创知识产权代理有限公司 11545 | 代理人: | 李杰 |
地址: | 100086 北京市海淀区中*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 数据处理 方法 装置 设备 存储 介质 计算机 程序 产品 | ||
1.一种数据处理方法,包括:
接收第一虚拟容器对象组件发送的针对存储系统的磁盘挂载请求;所述存储系统包括:用于存储数据量小于预设阈值的数据且可进行并行写操作和并行读操作的第一磁盘、用于存储数据量大于所述预设阈值的数据且可进行除并行写操作之外的其它读写操作的第二磁盘,用于存储数据量大于所述预设阈值的数据且只进行读操作的第三磁盘;
从所述磁盘挂载请求中获取目标磁盘的信息和目标挂载模式,其中,所述目标磁盘为根据所述第一虚拟容器对象组件针对的目标数据的处理类型以及所述目标数据的数据量确定的磁盘;
按照所述目标挂载模式,将所述目标磁盘和所述第一虚拟容器对象组件挂载,以使所述第一虚拟容器对象组件基于所述目标磁盘对所述目标数据进行处理;
其中,当所述目标磁盘为所述第二磁盘时,所述按照所述目标挂载模式,将所述目标磁盘和所述第一虚拟容器对象组件挂载,包括:
确定所述第一虚拟容器对象组件所在的数据处理设备;
向所述数据处理设备发送所述挂载请求,以使所述数据处理设备按照所述目标挂载模式,将所述目标磁盘和所述数据处理设备本地的预设磁盘挂载;并基于所述第一虚拟容器对象组件的配置文件将所述预设磁盘和所述第一虚拟容器对象组件挂载。
2.如权利要求1所述的数据处理方法,其中,当所述目标磁盘为所述第二磁盘且所述目标挂载模式为读写模式时,在所述按照所述目标挂载模式,将所述目标磁盘和所述第一虚拟容器对象组件挂载之前,所述方法还包括:
确定是否存在以读写模式挂载至所述第二磁盘的第二虚拟容器对象组件;
若不存在,则执行所述按照所述目标挂载模式,将所述目标磁盘和所述第一虚拟容器对象组件挂载的步骤。
3.如权利要求2所述的数据处理方法,其中,还包括:
若存在以读写模式挂载至所述第二磁盘的第二虚拟容器对象组件,将所述第二磁盘和所述第二虚拟容器对象组件卸载,并按照只读模式,将所述第二磁盘和所述第二虚拟容器对象组件挂载;
执行所述按照所述目标挂载模式,将所述目标磁盘和所述第一虚拟容器对象组件挂载的步骤。
4.如权利要求1所述的数据处理方法,其中,还包括:
接收第三虚拟容器对象组件发送的针对所述第二磁盘的挂载模式切换请求;
若所述挂载模式切换请求为由只读模式切换为读写模式的切换请求,确定是否存在以读写模式和所述第二磁盘挂载的第四虚拟容器对象组件;
若存在,则将所述第二磁盘和所述第四虚拟容器对象组件卸载,并按照只读模式,将所述第二磁盘和所述第四虚拟容器对象组件挂载;
将所述第二磁盘和第三虚拟容器对象组件卸载,并按照读写模式,将所述第二磁盘和所述第三虚拟容器对象组件挂载。
5.如权利要求1-4任一所述的数据处理方法,其中,所述第一虚拟容器对象组件为用于进行机器学习模型训练的虚拟容器对象组件;所述第二磁盘用于存储待进行预处理的初始样本数据;所述第三磁盘用于存储对所述初始样本数据进行预处理之后得到的样本数据集;所述方法还包括:
接收所述第一虚拟容器对象组件发送的样本数据集提交请求;所述样本数据集提交请求中包括:存储于所述第二磁盘的、对所述初始样本数据进行预处理后得到的样本数据集的标识信息;
启动样本数据集提交进程,并按照只读模式,将所述第二磁盘和所述样本数据集提交进程挂载;
在所述第三磁盘中创建与所述样本数据集对应的第三子磁盘,并按照读写模式,将所述第三子磁盘和所述样本数据集提交进程挂载;
通过所述样本数据集提交进程,基于所述标识信息,将存储于所述第二磁盘的所述样本数据集复制至所述第三子磁盘;
将所述样本数据集提交进程和所述第二磁盘卸载,将所述样本数据集提交进程和所述第三子磁盘卸载。
6.如权利要求1-4任一所述的数据处理方法,其中,所述第一磁盘为Cephfs,所述第二磁盘和所述第三磁盘均为RBD。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京世纪好未来教育科技有限公司,未经北京世纪好未来教育科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202110645985.3/1.html,转载请声明来源钻瓜专利网。