[发明专利]一种数据下载系统及方法有效
申请号: | 201210007673.0 | 申请日: | 2012-01-11 |
公开(公告)号: | CN102571959A | 公开(公告)日: | 2012-07-11 |
发明(设计)人: | 王力;王锋 | 申请(专利权)人: | 北京奇虎科技有限公司 |
主分类号: | H04L29/08 | 分类号: | H04L29/08 |
代理公司: | 北京市德权律师事务所 11302 | 代理人: | 刘丽君 |
地址: | 100088 北京市西城区新*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 数据 下载 系统 方法 | ||
1.一种数据下载系统,其特征在于,包括多个下载集群,每个下载集群中包括Linux虚拟服务器LVS、至少两个下载节点Nginx以及一个分布式文件系统HDFS,所述Nginx的操作系统通过用户空间文件系统FUSE挂载HDFS的存储服务;其中:
所述LVS用于接收用户的下载请求,对各个Nginx进行调度选择,将所述下载请求转发给选中的Nginx;
所述Nginx用于在接收到LVS转发的下载请求后,通过FUSE访问HDFS中存储的数据,响应用户的下载请求;
所述HDFS用于存储数据。
2.根据权利要求1所述的系统,其特征在于,所述LVS具体用于:接收到用户的下载请求后,根据各个Nginx的性能和/或当前负载状况对各个Nginx进行调度选择,将所述下载请求发送给性能和/或当前负载状态符合预置条件的Nginx。
3.根据权利要求1所述的系统,其特征在于,所述LVS为两个。
4.根据权利要求3所述的系统,其特征在于,两个LVS互为主备,每个LVS通过一个处于主模式的虚IP向用户提供下载服务,同时存在一个处于备用模式的虚IP;当一个LVS无法提供服务时,另一个LVS通过启动所述处于备用模式的虚IP来接管该LVS的下载服务。
5.根据权利要求1所述的系统,其特征在于,所述HDFS包括名字节点及至少两个数据节点,所述名字节点与LVS复用一台服务器,每个数据节点与一个Nginx复用一台服务器。
6.根据权利要求5所述的系统,其特征在于,Nginx的数目与数据节点的数目相同。
7.一种数据下载方法,应用于一数据下载系统中,其特征在于,所述数据下载系统包括多个下载集群,每个下载集群中包括Linux虚拟服务器LVS、至少两个下载节点Nginx以及一个分布式文件系统HDFS,所述HDFS用于存储数据,所述Nginx的操作系统通过用户空间文件系统FUSE挂载HDFS的存储服务;所述方法包括:
通过所述LVS接收用户的下载请求,并由所述LVS对各个Nginx进行调度选择,将所述下载请求转发给选中的Nginx;
Nginx在接收到LVS转发的下载请求后,通过FUSE访问HDFS中存储的数据,响应用户的下载请求。
8.根据权利要求7所述的方法,其特征在于,所述对各个Nginx进行调度选择,将所述下载请求转发给选中的Nginx包括:
根据各个Nginx的性能和/或当前负载状况对各个Nginx进行调度选择,将所述下载请求发送给性能和/或当前负载状态符合预置条件的Nginx。
9.根据权利要求7所述的方法,其特征在于,所述LVS为两个。
10.根据权利要求9所述的方法,其特征在于,两个LVS互为主备,每个LVS通过一个处于主模式的虚IP向用户提供下载服务,同时存在一个处于备用模式的虚IP;当一个LVS无法提供服务时,另一个LVS通过启动所述处于备用模式的虚IP来接管该LVS的下载服务。
11.根据权利要求7所述的方法,其特征在于,所述HDFS包括名字节点及至少两个数据节点,所述名字节点与LVS复用一台服务器,每个数据节点与一个Nginx复用一台服务器。
12.根据权利要求11所述的方法,其特征在于,Nginx的数目与数据节点的数目相同。
13.根据权利要求7所述的方法,其特征在于,还包括:
对Nginx的参数进行调整,所调整的参数包括Sendfile选项、worker进程数、单进程最大连接数、backlog参数、output-buffers中的一个或多个。
14.根据权利要求7所述的方法,其特征在于,还包括:
对HDFS参数进行调整,所调整的参数包括read函数的参数数目、IPCserver listen队列长度、IPC Server工作线程数、数据传输最大线程数中的一个或多个。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京奇虎科技有限公司,未经北京奇虎科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201210007673.0/1.html,转载请声明来源钻瓜专利网。
- 数据显示系统、数据中继设备、数据中继方法、数据系统、接收设备和数据读取方法
- 数据记录方法、数据记录装置、数据记录媒体、数据重播方法和数据重播装置
- 数据发送方法、数据发送系统、数据发送装置以及数据结构
- 数据显示系统、数据中继设备、数据中继方法及数据系统
- 数据嵌入装置、数据嵌入方法、数据提取装置及数据提取方法
- 数据管理装置、数据编辑装置、数据阅览装置、数据管理方法、数据编辑方法以及数据阅览方法
- 数据发送和数据接收设备、数据发送和数据接收方法
- 数据发送装置、数据接收装置、数据收发系统、数据发送方法、数据接收方法和数据收发方法
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置