[发明专利]一种分布式的大文件快速下载方法及系统有效
申请号: | 202110284540.7 | 申请日: | 2021-03-17 |
公开(公告)号: | CN113132463B | 公开(公告)日: | 2023-03-24 |
发明(设计)人: | 代存折;李妃军;翁成龙;曾凡林;戴金晶 | 申请(专利权)人: | 杭州当虹科技股份有限公司 |
主分类号: | H04L67/06 | 分类号: | H04L67/06;H04L67/1097;H04L41/0668;H04L43/08 |
代理公司: | 浙江英普律师事务所 33238 | 代理人: | 刘芬豪 |
地址: | 310000 浙江省杭州市西*** | 国省代码: | 浙江;33 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 分布式 文件 快速 下载 方法 系统 | ||
1.一种分布式的大文件快速下载系统,其特征在于,包括主节点装置、注册中心、存储装置和至少一台分布式下载装置,其中,所述主节点装置进一步包括大文件解析模块、下载任务分发模块、下载进度监听模块和合并文件模块;分布式下载装置包括监听下载任务模块和下载模块;
大文件解析模块用于解析大文件的大小,根据下载装置的数量及带宽进行逻辑分片计算,将计算结果交由下载任务分发模块进行处理;下载任务分发模块用于将任务按照顺序发布至注册中心;下载进度监听模块用于监听大文件所有的下载任务情况;
注册中心用于存储待下载任务及每个下载任务的结果,同时供监听下载任务模块、下载进度监听模块进行监听;
监听下载任务模块用于自动监听及读取注册中心中的新任务,读取成功后将待下载任务节点交由下载模块处理,同时在注册中心中把该待下载任务节点信息删除,将该待下载任务节点存储至注册中心的下载中任务节点下,最后标识该任务的状态及所属下载装置信息,用于下载装置网络异常或宕机时进行下载任务转移;
下载模块用于根据分片的信息进行指定内容的下载,下载完成后将该分片任务在注册中心中进行状态修改,再进行删除任务信息,然后将包括下载后的位置信息写入注册中心的已完成任务节点下,用于合并文件使用;
合并文件模块用于根据分片下载任务的序号进行顺序追加,合并成一个完整的文件信息;
存储装置挂载于整个系统,用于分片文件及最终合并后的文件存储。
2.如权利要求1所述的分布式大文件快速下载系统,其特征在于,待下载任务节点由下载任务分发模块创建,由监听下载任务模块读取和删除。
3.如权利要求1所述的分布式大文件快速下载系统,其特征在于,下载中任务节点由监听下载任务模块创建,由下载模块删除,由下载进度监听模块读取。
4.如权利要求1所述的分布式大文件快速下载系统,其特征在于,已完成任务节点由下载模块写入,由下载进度监听模块读取,由合并模块删除。
5.如权利要求1所述的分布式的大文件快速下载系统,其特征在于,分片个数为:文件总大小/下载机器平均下行带宽/8。
6.一种分布式的大文件快速下载方法,其特征在于,应用于包括主节点装置、注册中心、存储装置和至少一台分布式下载装置的下载系统,所述主节点装置进一步包括大文件解析模块、下载任务分发模块、下载进度监听模块和合并文件模块,分布式下载装置包括监听下载任务模块和下载模块,包括以下步骤:
大文件解析模块解析大文件的大小,根据下载装置的数量及带宽进行逻辑分片计算,将计算结果交由下载任务分发模块进行处理;
下载任务分发模块将任务按照顺序发布至注册中心;
注册中心存储待下载任务及每个下载任务的结果,同时供监听下载任务模块、下载进度监听模块进行监听;
下载进度监听模块监听大文件所有的下载任务情况;
监听下载任务模块自动监听及读取注册中心中的新任务,读取成功后将待下载任务节点交由下载模块处理,同时在注册中心中把该待下载任务节点信息删除,将该待下载任务节点存储至注册中心的下载任务节点下,最后标识该任务的状态及所属下载装置信息,用于下载装置网络异常或宕机时进行下载任务转移;
下载模块根据分片的信息进行指定内容的下载,下载完成后将该分片任务在注册中心中进行状态修改,再进行删除任务信息,然后将包括下载后的位置信息写入注册中心的已完成节点下,用于合并文件使用;
合并文件模块根据分片下载任务的序号进行顺序追加,合并成一个完整的文件信息;
存储装置挂载于整个系统,用于分片文件及最终合并后的文件存储。
7.如权利要求6所述的分布式大文件快速下载方法,其特征在于,待下载任务节点由下载任务分发模块创建,由监听下载任务模块读取和删除。
8.如权利要求6所述的分布式大文件快速下载方法,其特征在于,下载中任务节点由监听下载任务模块创建,由下载模块删除,由下载进度监听模块读取。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于杭州当虹科技股份有限公司,未经杭州当虹科技股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202110284540.7/1.html,转载请声明来源钻瓜专利网。