[发明专利]一种支持大数据文件访问服务的高可用性对象存储方法有效
申请号: | 201810733569.7 | 申请日: | 2018-07-06 |
公开(公告)号: | CN109033250B | 公开(公告)日: | 2021-06-08 |
发明(设计)人: | 王燕;白培翔;周建涛;刘靖;许岗;杨影西 | 申请(专利权)人: | 内蒙古大学 |
主分类号: | G06F16/13 | 分类号: | G06F16/13 |
代理公司: | 北京冬瓜知识产权代理事务所(普通合伙) 11854 | 代理人: | 李佳 |
地址: | 010021 内蒙古自*** | 国省代码: | 内蒙古;15 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 支持 数据文件 访问 服务 可用性 对象 存储 方法 | ||
1.一种支持大数据文件访问服务的高可用性对象存储方法,其特征在于,包括:通过数据协议模块接口管理对象存储需要存储的对象可用Hadoop文件系统,实现在CephFS上hadoop与对象存储服务的支持,使得用户通过所述数据协议模块接口可以访问对象存储服务存储的数据;
多个对象网关服务下,Hadoop数据协议接口透明访问Ceph存储系统时通过对象服务函数接口管理进程,用于设备出现故障时,提高系统的容错性;
Hadoop平台上基于Ceph的对象存储处理流程如下:
第一步 启动对象存储网关rgw,在Ceph集群所有monitor节点上启动对象存储网关,包括:
(1)配置radosgw服务,将monitor所在节点需要在三个节点的conf文件中分别添加配置;
(2)配置hosts文件,将所有radosgw服务端节点的信息都写入到hosts文件;
(3)创建并修改各节点的集群节点CTDB中的nodes文件,添加接口节点集群的内部网络IP,创建并修改各接口节点公网IP文件以及客户端进行访问的虚拟IP,使用户通过该IP访问radosgw服务方,以实现高可用性;
(4)修改所有接口节点上CTDB配置文件中的相关配置CTDB_MANAGES_RADOSGW=yes;
(5)修改所有接口节点上的function函数ctdb_compat_managed_service,并设计连接接口的函数,使CTDB服务于对象存储网关,在所有MON节点上启动CTDB进程;
第二步 配置Hadoop与CephFS连接,通过Hadoop和Hbase配置文件进行设置,将Ceph作为Hadoop底层文件系统的存储方案,通过Hadoop命令行发出指令;
第三步 如果服务是S3,则经S3数据协议模块获取配置文件,再到aws-java-sdk生成符合S3的协议,用于向rgw网关发送响应命令;
第四步 如果服务是Swift,则经swift数据协议模块和hadoop-openstack获取配置,再到openstack-sdk生成符合Swift协议的命令,最后发送到rgw。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于内蒙古大学,未经内蒙古大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201810733569.7/1.html,转载请声明来源钻瓜专利网。