[发明专利]数据写入方法、装置、设备及介质在审
申请号: | 201711460718.9 | 申请日: | 2017-12-28 |
公开(公告)号: | CN110019093A | 公开(公告)日: | 2019-07-16 |
发明(设计)人: | 邵磊 | 申请(专利权)人: | 中国移动通信集团安徽有限公司;中国移动通信集团公司 |
主分类号: | G06F16/182 | 分类号: | G06F16/182;G06F9/50 |
代理公司: | 北京东方亿思知识产权代理有限责任公司 11258 | 代理人: | 娜拉 |
地址: | 230088 *** | 国省代码: | 安徽;34 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 分布式文件系统 节点设备 写入 主节点设备 数据并发 客户节点设备 处理性能 请求分配 同步进程 网络互联 协议实现 分配 | ||
本发明实施例提供了数据写入方法、装置、设备及介质。该方法应用于分布式文件系统中,且分布式文件系统中的各节点设备通过RDMA协议进行网络互联,该方法包括:客户节点设备向主节点设备请求分配用于数据写入的多个从节点设备;将当前数据并发写入所述主节点设备分配的每个从节点设备中。根据本发明的技术方案,通过RDMA协议实现了分布式文件系统中的数据并发写入,从而提高了数据在各从节点设备间的同步进程,节省了大量的时间,使得分布式文件系统的处理性能得以提升。
技术领域
本发明涉及分布式存储技术领域,尤其涉及一种数据写入方法、装置、设备及介质。
背景技术
近年来,随着“云计算”、“互联网”、“物联网”的快速发展,大数据(Big Data)也吸引了越来越多的人关注,成为社会热点之一。伴随着商业智能的发展,数据量呈现指数增长,Hadoop(分布式系统基础架构)在多个行业中得到了越来越多的广泛应用,一些迫在眉睫需要得到解决的问题也涌现出来。
Hadoop实现了一个分布式文件系统(Hadoop Distributed File System,HDFS),它能提供高吞吐量的数据访问,非常适合大规模数据集群上的应用。虽然HDFS可以通过线性扩展节点设备来提升集群的处理能力,但是,首先,随着集群的规模越来越大,节点设备间进行数据传输的损耗也一并提升,使得增加节点设备而得到提升的处理能力变得有限甚至收效甚微;其次,节点设备的线性扩展是通过不断增加新的硬件来使得处理能力得到提升,但对已有的单节点设备上的并行能力无法得到提升,这样既造成了资源上的浪费,同时也提高了管理上的难度。
发明内容
本发明实施例提供了数据写入方法、装置、设备及介质,能够大大提升分布式文件系统的处理性能。
第一方面,本发明实施例提供了一种数据写入方法,应用于分布式文件系统中,且所述分布式文件系统中的各节点设备通过远程直接内存访问(Remote Direct MemoryAccess,RDMA)协议进行网络互联,方法包括:
客户节点设备向主节点设备请求分配用于数据写入的多个从节点设备;
将当前数据并发写入所述主节点设备分配的每个从节点设备中。
第二方面,本发明实施例提供了一种数据写入方法,应用于分布式文件系统中,且所述分布式文件系统中的各节点设备通过远程直接内存访问RDMA协议进行网络互联,方法包括:
从节点设备获取并存储客户节点设备写入的当前数据;
对所述当前数据的完整性进行校验,得到写入结果;
将所述写入结果反馈给所述客户节点设备。
第三方面,本发明实施例提供了一种数据写入装置,应用于分布式文件系统中,且所述分布式文件系统中的各节点设备通过远程直接内存访问RDMA协议进行网络互联,装置包括:
请求单元,用于向主节点设备请求分配用于数据写入的多个从节点设备;
写入单元,用于将当前数据并发写入所述主节点设备分配的每个从节点设备中。
第四方面,本发明实施例提供了一种数据写入装置,应用于分布式文件系统中,且所述分布式文件系统中的各节点设备通过远程直接内存访问RDMA协议进行网络互联,装置包括:
获取单元,用于获取并存储客户节点设备写入的当前数据;
校验单元,用于对所述当前数据的完整性进行校验,得到写入结果;
反馈单元,用于将所述写入结果反馈给所述客户节点设备。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于中国移动通信集团安徽有限公司;中国移动通信集团公司,未经中国移动通信集团安徽有限公司;中国移动通信集团公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201711460718.9/2.html,转载请声明来源钻瓜专利网。