[发明专利]一种基于访问特征的高能物理文件存储方法有效

专利信息
申请号: 201810390244.3 申请日: 2018-04-27
公开(公告)号: CN110019017B 公开(公告)日: 2021-04-27
发明(设计)人: 程振京;徐琪;王聪;程耀东;汪璐;李海波;胡庆宝 申请(专利权)人: 中国科学院高能物理研究所
主分类号: G06F16/13 分类号: G06F16/13;G06F16/182
代理公司: 北京君尚知识产权代理有限公司 11200 代理人: 司立彬
地址: 100049 *** 国省代码: 北京;11
权利要求书: 查看更多 说明书: 查看更多
摘要:
搜索关键词: 一种 基于 访问 特征 高能物理 文件 存储 方法
【权利要求书】:

1.一种基于访问特征的高能物理文件存储方法,其步骤包括:

1)设置多种数据类别,每一类别数据设置一对应的数据放置策略;

2)对于每一类别数据,分别从存储系统中选取多个数据文件及其访问记录,同一数据文件对应提取M条访问记录;对同一数据文件的每一访问记录中分别提取a个特征的特征值作为该数据文件的训练样本,得到一训练样本集;

3)抽取该训练样本集中k个特征对应的特征值用于创造决策树中的节点,训练生成多棵分类回归树CART,每棵分类回归树CART的最大深度为d;

4)从所述存储系统中选择若干数据文件及其访问记录,生成对应的测试样本;对于每一测试样本,计算多棵所述分类回归树CART对该测试样本的平均分类时间t,如果t超过设定阈值,则将所述分类回归树CART的最大深度置为d=d-1,并调整超过当前最大深度d的分类回归树CART的结构;

5)重新步骤4),直至t小于或等于设定阈值;

6)对于每一待分类的数据文件,从所述存储系统中获取该数据文件的访问日志,然后从该访问日志中抽取访问记录,从该访问记录中提取该数据文件的特征数据;利用最终得到的多棵所述分类回归树CART对该数据文件的类别进行投票,得到该数据文件的分类结果;然后根据该分类结果选择对应的数据放置策略,对该数据文件进行存储;如果所述存储系统中没有该待分类的数据文件f1的访问日志,则在所述存储系统的目录C中查找与该数据文件f1相似的数据文件f2;然后提取该数据文件f2的访问记录和特征,利用最终得到的多棵所述分类回归树CART对该数据文件f2的类别进行投票,得到该数据文件f2的分类结果;然后根据该分类结果选择对应的数据放置策略,对该数据文件f1进行存储;其中,目录C为文件f1在存储系统名字空间中的位置;其中将与该数据文件f1具有相同后缀名、相同文件访问权限、文件大小近似相等、创建时间接近且同为相同用户创建的数据文件,作为所述数据文件f2。

2.如权利要求1所述的方法,其特征在于,如果在目录C中找不到与该数据文件f1相似的数据文件f2,则在依次向上一级目录中寻找与该数据文件f1相似的数据文件f2。

3.如权利要求1所述的方法,其特征在于,所述数据的类别包括:实验组分析数据,个人数据,实验组重建数据和实验组原始事例数据、系统数据。

4.如权利要求3所述的方法,其特征在于,所述实验组分析数据对应的数据放置策略为:存储层次为基于Flash的固态硬盘、副本个数为1、冗余存储级别为N+2;所述个人数据对应的数据放置策略为:存储层次为基于3D NAND的固态硬盘、副本个数为1、冗余存储级别为N+3;所述实验组重建数据对应的数据放置策略为:存储层次为企业级SAS 15k/10k RPM、副本个数为0、冗余存储级别为N+3;所述实验组原始事例数据、系统数据对应的数据放置策略为:存储层次为近线SAS 7200RPM、副本个数为0、冗余存储级别为N+2;其中,N为单个存储服务器的实际硬盘数量。

5.如权利要求1所述的方法,其特征在于,所述a个特征为提取时间戳、文件名、访问类别、读写区间和访问位置。

6.如权利要求1所述的方法,其特征在于,所述步骤4)中,对于每一测试样本,计算每棵所述分类回归树CART对该测试样本的预测准确率,隔离预测准确率低于设定固定值的分类回归树CART。

7.如权利要求1所述的方法,其特征在于,所述存储系统为EOS存储系统。

下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。

该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于中国科学院高能物理研究所,未经中国科学院高能物理研究所许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服

本文链接:http://www.vipzhuanli.com/pat/books/201810390244.3/1.html,转载请声明来源钻瓜专利网。

×

专利文献下载

说明:

1、专利原文基于中国国家知识产权局专利说明书;

2、支持发明专利 、实用新型专利、外观设计专利(升级中);

3、专利数据每周两次同步更新,支持Adobe PDF格式;

4、内容包括专利技术的结构示意图流程工艺图技术构造图

5、已全新升级为极速版,下载速度显著提升!欢迎使用!

请您登陆后,进行下载,点击【登陆】 【注册】

关于我们 寻求报道 投稿须知 广告合作 版权声明 网站地图 友情链接 企业标识 联系我们

钻瓜专利网在线咨询

周一至周五 9:00-18:00

咨询在线客服咨询在线客服
tel code back_top