[发明专利]一种基于混合内存的数据处理方法及装置在审
申请号: | 201911424993.4 | 申请日: | 2019-12-31 |
公开(公告)号: | CN111176584A | 公开(公告)日: | 2020-05-19 |
发明(设计)人: | 郭庆;谢莹莹;于宏亮 | 申请(专利权)人: | 曙光信息产业(北京)有限公司 |
主分类号: | G06F3/06 | 分类号: | G06F3/06 |
代理公司: | 北京超凡宏宇专利代理事务所(特殊普通合伙) 11463 | 代理人: | 蒋姗 |
地址: | 100000 北京*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 基于 混合 内存 数据处理 方法 装置 | ||
1.一种基于混合内存的数据处理方法,其特征在于,应用于分布式存储系统中的一个节点,所述分布式存储系统包括多个互相通信连接的节点,每个节点包括混合内存和容错分布式数据集HFDD和外存储器,所述HFDD包括内存和固态硬盘SSD,所述内存包括随机存储器RAM和非易失性双列直插式内存模块NVDIMM,所述方法包括:
计算各数据的热度,其中,所述热度表示对应数据被访问的频繁程度;
根据各数据的热度,以及内存、SSD和外存储器分别对应的存储容量将各数据进行存储。
2.根据权利要求1所述的方法,其特征在于,所述根据各数据的热度,以及内存、SSD和外存储器分别对应的存储容量将各数据进行存储,包括:
根据所述内存中RAM的存储容量从热度最高的数据开始,将小于或等于所述RAM的存储容量的数据存入所述RAM中;
根据所述SSD的存储容量,从剩余数据中热度最高的数据开始,将小于或等于存储容量的数据存入所述SSD中;
将剩余的数据存储在所述外存储器中。
3.根据权利要求1所述的方法,其特征在于,所述方法还包括:
接收访问请求,若所述RAM的存储容量已满,且待访问数据存储在所述SSD中,则根据所述待访问数据所需的内存大小从所述RAM中取出易失存储数据,并将所述待访问数据存储所述RAM中。
4.根据权利要求1所述的方法,其特征在于,所述方法还包括:
若节点异常掉电,则将异常掉电之前,所述节点对应的工作状态数据从NVDIMM中保存至外存储器中;
当所述节点的状态由故障恢复正常后,从所述外存储器中将所述工作状态再次写入所述NVDIMM中,并根据所述工作状态数据继续运行。
5.根据权利要求1所述的方法,其特征在于,所述方法还包括:
确定创建副本的时间节点;
若到达所述时间节点,则向其他节点发送创建副本请求,以使所述其他节点在接收到所述创建副本请求后创建对应数据的副本。
6.根据权利要求5所述的方法,其特征在于,所述方法还包括:
若一个节点中的数据丢失,则从其他节点中获取距离当前时刻最近一次创建的副本。
7.根据权利要求1所述的方法,其特征在于,所述方法还包括:
在所述分布式存储系统运行的过程中,根据预设周期生成节点中HFDD的快照;
根据各个快照生成的时间确定对应快照的存储位置。
8.一种基于混合内存的数据处理装置,其特征在于,应用于分布式存储系统中的一个节点,所述分布式存储系统包括多个互相通信连接的节点,每个节点包括混合内存和容错分布式数据集HFDD和外存储器,所述HFDD包括内存和固态硬盘SSD,所述内存包括随机存储器RAM和非易失性双列直插式内存模块NVDIMM,所述方法包括:
热度计算模块,用于计算各数据的热度,其中,所述热度表示对应数据被访问的频繁程度;
数据存储模块,用于根据各数据的热度,以及内存、SSD和外存储器分别对应的存储容量将各数据进行存储。
9.一种电子设备,其特征在于,包括:处理器、存储器和总线,其中,
所述处理器和所述存储器通过所述总线完成相互间的通信;
所述存储器存储有可被所述处理器执行的程序指令,所述处理器调用所述程序指令能够执行如权利要求1-7任一项所述的方法。
10.一种非暂态计算机可读存储介质,其特征在于,所述非暂态计算机可读存储介质存储计算机指令,所述计算机指令被计算机运行时,使所述计算机执行如权利要求1-7任一项所述的方法。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于曙光信息产业(北京)有限公司,未经曙光信息产业(北京)有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201911424993.4/1.html,转载请声明来源钻瓜专利网。