[发明专利]分布式文件存储和查询方法及存取系统有效
申请号: | 201310432666.X | 申请日: | 2013-09-22 |
公开(公告)号: | CN104462129B | 公开(公告)日: | 2018-05-25 |
发明(设计)人: | 王炜 | 申请(专利权)人: | 北大方正集团有限公司;北京北大方正电子有限公司 |
主分类号: | G06F17/30 | 分类号: | G06F17/30;H04L29/08 |
代理公司: | 北京路浩知识产权代理有限公司 11002 | 代理人: | 李相雨 |
地址: | 100871 北京*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 原始文件 服务器 分布式文件存储 打包文件 描述文件 存储 解压 分布式文件系统 存取系统 描述内容 网络地址 解析 分布式数据库 查询 传输 析出 业务数据 上传 检索 返回 分类 | ||
本发明涉及一种分布式文件存储和查询方法及存取系统,所述分布式文件存储方法,包括:向服务器上传打包文件,所述打包文件包括原始文件和对所述原始文件进行描述的描述文件;所述服务器对所述打包文件进行解压,并对解压出的所述描述文件进行解析,以解析出所述描述文件的描述内容;所述服务器将解压出的所述原始文件传输到分布式文件系统;所述分布式文件系统向所述服务器返回所述原始文件存储的网络地址;所述服务器将所述原始文件存储的网络地址和解析出的所述描述内容传输到分布式数据库。由此,可以对存储的文件进行内容的分类和检索,实现了存储的数据与现有业务数据的结合。
技术领域
本发明涉及计算机存储技术领域,具体涉及一种分布式文件存储和查询方法及存取系统。
背景技术
分布式文件存储是对普通的文件系统的扩展,通过水平增加机器来实现数据的多点备份和存储容量的扩充。但是仅仅实现静态文件的存储而不可以对存储的内容进行一个宏观的控制和分类在现在这个大数据时代是有很大的局限性的。
随着移动互联网时代的到来,互联网应用由原来的浏览器为客户端的应用变成了多平台多终端的模式,如手机客户端、Pad客户端等。这些终端产生的数据如果放在本地易丢失也不易跨终端访问和查看,这样的数据查看有很大的狭隘性,将这些数据全部放在服务端存储可以解决以上的局限。但是,随着用户和应用功能的增大,又会存在产生的数据的存储问题。一台服务器的存储容量有限,如果存满了就需要不停的加磁盘,如果机器硬件或者网络发生故障,就无法访问服务器,从而导致用户体验太差。
对于以上的存储问题,现有技术中提出了很多解决办法,比如用多台机器进行文件的备份和增加存储节点的方式来扩容,这种文件存储系统业内已经有很多成熟的应用,比如HDFS、FastDFS、MooseFS、KFS等,他们都可以实现文件存储服务的高可用和高容量,但是这样的文件存储可扩展性不强,虽然可以存储大量文件,但是对存储的文件进行内容的分类和检索有很大的局限性;并且所存储的数据和现有的业务数据很难进行结合。
发明内容
本发明所要解决的技术问题之一是对存储的文件进行内容的分类和检索有很大的局限性。
为此目的,本发明提出了一种分布式文件存储方法,包括:向服务器上传打包文件,所述打包文件包括原始文件和对所述原始文件进行描述的描述文件;所述服务器对所述打包文件进行解压,并对解压出的所述描述文件进行解析,以解析出所述描述文件的描述内容;所述服务器将解压出的所述原始文件传输到分布式文件系统;所述分布式文件系统向所述服务器返回所述原始文件存储的网络地址;所述服务器将所述原始文件存储的网络地址和解析出的所述描述内容传输到分布式数据库。
优选地,当所述分布式文件系统配置为多节点存储时,所述服务器将解压出的所述原始文件传输到分布式文件系统以及所述分布式文件系统向所述服务器返回所述原始文件存储的网络地址包括:所述服务器向多节点存储的所述分布式文件系统发送存储指令;所述分布式文件系统根据容量和/或带宽,向所述服务器发送用于存储所述原始文件的存储节点的信息;所述服务器将所述原始文件传输到分布式文件系统的该存储节点内,以进行存储;所述分布式文件系统向所述服务器返回所述原始文件存储的存储节点及所述存储节点内的网络地址。
优选地,当所述分布式数据库配置为多节点记录时,所述服务器将所述原始文件存储的网络地址和解析出的所述描述内容传输到分布式数据库包括:所述服务器向多节点记录的所述分布式数据库发送记录指令;所述分布式数据库根据容量和/或带宽,向所述服务器发送用于存储所述原始文件存储的网络地址和解析出的描述内容的记录节点的信息;所述服务器将用于存储所述原始文件存储的网络地址和解析出的描述内容记录在所述分布式数据库的所述记录节点内。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北大方正集团有限公司;北京北大方正电子有限公司,未经北大方正集团有限公司;北京北大方正电子有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201310432666.X/2.html,转载请声明来源钻瓜专利网。
- 上一篇:互动对象的创建方法及装置
- 下一篇:一种数据处理方法和装置