[发明专利]基于学习索引的数据存储方法在审
申请号: | 202110898898.9 | 申请日: | 2021-08-05 |
公开(公告)号: | CN113722319A | 公开(公告)日: | 2021-11-30 |
发明(设计)人: | 崔秋;唐刘;王中华 | 申请(专利权)人: | 平凯星辰(北京)科技有限公司 |
主分类号: | G06F16/22 | 分类号: | G06F16/22 |
代理公司: | 北京知果之信知识产权代理有限公司 11541 | 代理人: | 卜荣丽 |
地址: | 100192 北京市海淀区西小口路*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 基于 学习 索引 数据 存储 方法 | ||
1.一种数据存储方法,其特征在于,所述方法包括:
构造一个树形数据索引结构以存储数据,所述树形数据索引结构包括:模型层、解构层和数据存储层;其中,
所述模型层由两层学习索引模型组成,第一层学习索引模型为一个RMI模型,第二层学习索引模型为多个PLA模型;
所述解构层包括由按键的数值范围分段的多个索引节点;
所述数据存储层以多个数据块的方式存储所述数据。
2.如权利要求1所述的方法,其特征在于:
基于所述RMI模型将全局键空间分为包括多个群组的群组数组,其中每一个所述群组包含一个所述PLA模型和一个或多个所述索引节点;
所述PLA模型对应于所述一个或多个所述索引节点;以及
所述多个数据块中的每一个数据块分别对应于一个所述索引节点并存储一个子数值范围内的所述数据。
3.如权利要求2所述的方法,其特征在于:
所述方法还包括:
使用所述RMI模型预测所述键在所述群组数组中的位置,把所述键定位到所述群组数组中的一个群组;
使用所述一个群组包含的所述PLA模型针对所述键进行训练;以及
使用所述PLA模型预测出所述键在所述一个群组的多个索引节点中的位置。
4.如权利要求2或3所述的方法,其特征在于:
每一个所述索引节点中包含N个数据索引的存储位置,其中N=1,根据所述数据索引将所述全局键空间划分为多个连续相邻的子键空间;以及
当所述索引节点中实际存储的数据索引个数M小于N时,所述索引节点中预留N-M个数据索引空存储位置。
5.如权利要求4所述的方法,其特征在于:
所述数据索引包含最小键、元数据、数据块指针,其中
所述最小键是所述数据索引所在的所述索引节点指向所述数据块中的最小键值;
所述元数据包含了所述子键空间的头部元数据;以及
所述数据块指针是指向所述子键空间的指针。
6.如权利要求1至5所述的方法,其特征在于:
所述数据在所述数据块内部无序存储;
所述数据块内使用迭代器用于所述数据的顺序遍历;
所述数据块用键值对方式存储所述数据,且所述键大小不固定,所述键对应的值大小也不固定,当所述键对应的值小于等于8字节时存储所述键对应的值的真实值,否则存储指向所述键对应的值的指针;
在所述数据块中以追加写入方式更新所述数据;
所述数据块包含头部元数据、由多个记录构成的记录数组以及指向下一个所述数据块的指针;
所述数据块的读写锁建立在每个所述记录上;以及
每个所述记录包括所述读写锁、所述键的大小、所述键以及所述值或者所述指向所述键对应的值的指针。
7.如权利要求1所述的方法,其特征在于:
当所述数据的总量S1时,其中S1是所述树形数据索引结构相比B+树索引结构出现优势的极限数据量,所述树形数据索引结构被替换为所述B+树索引结构。
8.一种根据权利要求4至7任一项所述的数据存储方法的数据读取请求处理方法,其特征在于包括以下步骤:
使用所述RMI模型预测得到与所述数据读取请求相应的目标键在所述群组数组中对应的群组;
使用所述对应的群组内的所述PLA模型预测以寻找与所述目标键相对应的所述索引节点;
如果找到对应的所述索引节点,进入对应的所述索引节点所包含的所述数据索引查找到与所述目标键相对应的目标数据索引;
进入查找到的所述目标数据索引,根据所述目标数据索引中包含的所述数据块指针定位到目标数据块;以及
进入所述目标数据块,查找到目标数据则返回所述目标数据,否则返回空值。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于平凯星辰(北京)科技有限公司,未经平凯星辰(北京)科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202110898898.9/1.html,转载请声明来源钻瓜专利网。
- 上一篇:一种三维立体地图的制作方法
- 下一篇:具有杀菌功能的照明装置
- 数据显示系统、数据中继设备、数据中继方法、数据系统、接收设备和数据读取方法
- 数据记录方法、数据记录装置、数据记录媒体、数据重播方法和数据重播装置
- 数据发送方法、数据发送系统、数据发送装置以及数据结构
- 数据显示系统、数据中继设备、数据中继方法及数据系统
- 数据嵌入装置、数据嵌入方法、数据提取装置及数据提取方法
- 数据管理装置、数据编辑装置、数据阅览装置、数据管理方法、数据编辑方法以及数据阅览方法
- 数据发送和数据接收设备、数据发送和数据接收方法
- 数据发送装置、数据接收装置、数据收发系统、数据发送方法、数据接收方法和数据收发方法
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置