[发明专利]一种基于访问特征的高能物理文件存储方法有效
申请号: | 201810390244.3 | 申请日: | 2018-04-27 |
公开(公告)号: | CN110019017B | 公开(公告)日: | 2021-04-27 |
发明(设计)人: | 程振京;徐琪;王聪;程耀东;汪璐;李海波;胡庆宝 | 申请(专利权)人: | 中国科学院高能物理研究所 |
主分类号: | G06F16/13 | 分类号: | G06F16/13;G06F16/182 |
代理公司: | 北京君尚知识产权代理有限公司 11200 | 代理人: | 司立彬 |
地址: | 100049 *** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 基于 访问 特征 高能物理 文件 存储 方法 | ||
1.一种基于访问特征的高能物理文件存储方法,其步骤包括:
1)设置多种数据类别,每一类别数据设置一对应的数据放置策略;
2)对于每一类别数据,分别从存储系统中选取多个数据文件及其访问记录,同一数据文件对应提取M条访问记录;对同一数据文件的每一访问记录中分别提取a个特征的特征值作为该数据文件的训练样本,得到一训练样本集;
3)抽取该训练样本集中k个特征对应的特征值用于创造决策树中的节点,训练生成多棵分类回归树CART,每棵分类回归树CART的最大深度为d;
4)从所述存储系统中选择若干数据文件及其访问记录,生成对应的测试样本;对于每一测试样本,计算多棵所述分类回归树CART对该测试样本的平均分类时间t,如果t超过设定阈值,则将所述分类回归树CART的最大深度置为d=d-1,并调整超过当前最大深度d的分类回归树CART的结构;
5)重新步骤4),直至t小于或等于设定阈值;
6)对于每一待分类的数据文件,从所述存储系统中获取该数据文件的访问日志,然后从该访问日志中抽取访问记录,从该访问记录中提取该数据文件的特征数据;利用最终得到的多棵所述分类回归树CART对该数据文件的类别进行投票,得到该数据文件的分类结果;然后根据该分类结果选择对应的数据放置策略,对该数据文件进行存储;如果所述存储系统中没有该待分类的数据文件f1的访问日志,则在所述存储系统的目录C中查找与该数据文件f1相似的数据文件f2;然后提取该数据文件f2的访问记录和特征,利用最终得到的多棵所述分类回归树CART对该数据文件f2的类别进行投票,得到该数据文件f2的分类结果;然后根据该分类结果选择对应的数据放置策略,对该数据文件f1进行存储;其中,目录C为文件f1在存储系统名字空间中的位置;其中将与该数据文件f1具有相同后缀名、相同文件访问权限、文件大小近似相等、创建时间接近且同为相同用户创建的数据文件,作为所述数据文件f2。
2.如权利要求1所述的方法,其特征在于,如果在目录C中找不到与该数据文件f1相似的数据文件f2,则在依次向上一级目录中寻找与该数据文件f1相似的数据文件f2。
3.如权利要求1所述的方法,其特征在于,所述数据的类别包括:实验组分析数据,个人数据,实验组重建数据和实验组原始事例数据、系统数据。
4.如权利要求3所述的方法,其特征在于,所述实验组分析数据对应的数据放置策略为:存储层次为基于Flash的固态硬盘、副本个数为1、冗余存储级别为N+2;所述个人数据对应的数据放置策略为:存储层次为基于3D NAND的固态硬盘、副本个数为1、冗余存储级别为N+3;所述实验组重建数据对应的数据放置策略为:存储层次为企业级SAS 15k/10k RPM、副本个数为0、冗余存储级别为N+3;所述实验组原始事例数据、系统数据对应的数据放置策略为:存储层次为近线SAS 7200RPM、副本个数为0、冗余存储级别为N+2;其中,N为单个存储服务器的实际硬盘数量。
5.如权利要求1所述的方法,其特征在于,所述a个特征为提取时间戳、文件名、访问类别、读写区间和访问位置。
6.如权利要求1所述的方法,其特征在于,所述步骤4)中,对于每一测试样本,计算每棵所述分类回归树CART对该测试样本的预测准确率,隔离预测准确率低于设定固定值的分类回归树CART。
7.如权利要求1所述的方法,其特征在于,所述存储系统为EOS存储系统。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于中国科学院高能物理研究所,未经中国科学院高能物理研究所许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201810390244.3/1.html,转载请声明来源钻瓜专利网。
- 上一篇:提供逻辑键的KV存储设备及其方法
- 下一篇:文件夹推荐方法及文件夹推荐装置