[发明专利]大数据存储系统中对数据文件进行关联存储的方法及系统有效
申请号: | 201910810845.X | 申请日: | 2019-08-30 |
公开(公告)号: | CN110515895B | 公开(公告)日: | 2023-06-23 |
发明(设计)人: | 请求不公布姓名 | 申请(专利权)人: | 北京燕山电子设备厂 |
主分类号: | G06F16/11 | 分类号: | G06F16/11;G06F16/13;G06F16/23 |
代理公司: | 重庆壹手知专利代理事务所(普通合伙) 50267 | 代理人: | 刘军 |
地址: | 100000 北京*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 数据 存储系统 数据文件 进行 关联 存储 方法 系统 | ||
1.一种在大数据存储系统中对数据文件进行关联存储的方法,所述方法包括:
确定对大数据存储系统内的数据文件进行数据分析的多个数据业务所涉及的多个业务主题;
对所述多个业务主题中每个业务主题进行语义提取以确定与每个业务主题相关联的多个标签项;
将大数据存储系统的存储区域在逻辑上划分为基础存储区、强关联存储区、弱关联存储区以及临时存储区;
将所述大数据存储系统通过接口设备所接收的每个新的数据文件存储在基础存储区中并记录每个新的数据文件的起始存储时间,为每个新的数据文件生成摘要数据并将被存储到基础存储区中的每个新的数据文件用作基础数据文件;
将与基础数据文件的关联度大于或等于主题关联度阈值的业务主题组成基础数据文件的业务主题集合,将基础数据文件移动到所述临时存储区并用作临时数据文件;
在强和/或弱关联存储区中确定与临时数据文件相关联的每个业务主题相关联的强和/或弱关联数据文件集并生成临时数据文件的主题匹配集合;其中,将大数据存储系统内多个数据文件集中与任意一个业务主题具有强关联度的数据文件集作为强关联数据文件集,并且将强关联数据文件集存储在强关联存储区中;将大数据存储系统内多个数据文件集中与任意一个业务主题具有弱关联度的数据文件集作为弱关联数据文件集,并且将弱关联数据文件集存储在弱关联存储区中;所述主题匹配集合包括至少一个匹配三元组,每个匹配三元组的格式为业务主题、文件集类型、匹配等级,其中文件集类型包括:强关联数据文件集和弱关联数据文件集,所述匹配等级的初始值为0;
将临时数据文件复制到主题匹配集合中相应业务主题的强和/或弱关联数据文件集中并标记为推荐文件,获取业务请求设备对相应业务主题的强和/或弱关联数据文件集中推荐文件的反馈信息;
确定与所接收到的反馈信息相关联的临时数据文件,并基于所接收到的反馈信息对相关联的临时数据文件的主题匹配集合中的匹配等级进行处理,利用所确定的匹配等级对所述相关联的临时数据文件的主题匹配集合进行更新;
确定在临时存储区中存储的时间达到时间阈值的特定的临时数据文件所归属的业务主题和文件集类型,并将所述特定的临时数据文件移动到强或弱关联存储区的与所归属的业务主题和文件集类型相对应的强或弱关联数据文件集中。
2.根据权利要求1所述的方法,所述大数据存储系统存储多个数据文件,并且将所存储的多个数据文件划分为多个数据文件集,每个数据文件集均具有相关联的或所归属的业务主题。
3.根据权利要求1所述的方法,对所述多个业务主题中每个业务主题进行语义提取以确定与每个业务主题相关联的多个标签项包括:
对所述多个业务主题中每个业务主题进行语义提取以获取能够描述每个业务主题的多个关键词,将能够描述每个业务主题的多个关键词确定为与每个业务主题相关联的多个标签项。
4.根据权利要求1所述的方法,在将大数据存储系统的存储区域在逻辑上划分为基础存储区、强关联存储区、弱关联存储区以及临时存储区之前还包括:
确定所述大数据存储系统的存储区域是否在逻辑上被划分为基础存储区、强关联存储区、弱关联存储区以及临时存储区,如果否,则将大数据存储系统的存储区域在逻辑上划分为基础存储区、强关联存储区、弱关联存储区以及临时存储区;如果是,则不进行处理。
5.根据权利要求1-4中任意一项所述的方法,为每个新的数据文件生成摘要数据包括:对每个新的数据文件的文件内容进行概括以生成每个新的数据文件的摘要数据。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京燕山电子设备厂,未经北京燕山电子设备厂许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201910810845.X/1.html,转载请声明来源钻瓜专利网。
- 数据显示系统、数据中继设备、数据中继方法、数据系统、接收设备和数据读取方法
- 数据记录方法、数据记录装置、数据记录媒体、数据重播方法和数据重播装置
- 数据发送方法、数据发送系统、数据发送装置以及数据结构
- 数据显示系统、数据中继设备、数据中继方法及数据系统
- 数据嵌入装置、数据嵌入方法、数据提取装置及数据提取方法
- 数据管理装置、数据编辑装置、数据阅览装置、数据管理方法、数据编辑方法以及数据阅览方法
- 数据发送和数据接收设备、数据发送和数据接收方法
- 数据发送装置、数据接收装置、数据收发系统、数据发送方法、数据接收方法和数据收发方法
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置