[发明专利]基于容器技术的生信分析任务调度系统及其搭建方法、调度方案在审
申请号: | 202011465097.5 | 申请日: | 2020-12-14 |
公开(公告)号: | CN112764894A | 公开(公告)日: | 2021-05-07 |
发明(设计)人: | 杨健;吴学标;林博;肖云平;史贤俊 | 申请(专利权)人: | 上海欧易生物医学科技有限公司 |
主分类号: | G06F9/48 | 分类号: | G06F9/48;G06F9/50;G06F9/54;G06F9/455;G06F8/61 |
代理公司: | 上海德禾翰通律师事务所 31319 | 代理人: | 夏思秋 |
地址: | 201114 上海市闵*** | 国省代码: | 上海;31 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 基于 容器 技术 分析 任务 调度 系统 及其 搭建 方法 方案 | ||
1.一种基于容器技术的生信分析任务调度系统,包括:分析镜像仓库模块,镜像智能拉取模块,任务调度模块,任务运行模块;其中,
所述分析镜像仓库模块,分为用户镜像仓库和系统镜像仓库,用于存储分析人员构建的生信分析镜像,支持项目和用户权限隔离,提供用户管理、访问控制和活动审计的高级安全特性,并且系统镜像仓库和用户镜像仓库定时进行主从备份;
所述镜像智能拉取模块,用于自动检测当前本地主机是否具备生信分析需要的指定分析镜像,本地主机不具备该分析镜像则自动搜索系统镜像仓库,在系统镜像仓库中检测到指定分析镜像存在则自动拉取到本地主机,如不存在则直接终止生信分析任务的运行;
所述任务调度模块,调用内部脚本读取分布式系统Celery的环境变量配置,调用预设的任务调度模板,通过任务生成脚本生成新任务,并建立任务与对应任务运行模块逻辑函数之间的对应关系;
所述任务运行模块,接受到任务调度模块分发的任务,自动执行预设的任务运行脚本代码处理分析任务。
2.根据权利要求1所述的生信分析任务调度系统,其特征在于,所述分析镜像仓库模块实现项目和用户权限的隔离,还包括定制化用户仓库和系统仓库备份的主从复制逻辑,能够对用户仓库和系统仓库的敏感操作进行隔离。
3.根据权利要求1所述的生信分析任务调度系统,其特征在于,所述镜像智能拉取模块对Docker和Harbor操作进行定制化开发,提供可视化的管理界面,支持查看当前本地主机镜像情况。
4.根据权利要求3所述的生信分析任务调度系统,其特征在于,所述Docker和Harbor操作的定制化开发,既封装了Docker自身执行命令嵌入镜像智能拉取模块,又将Harbor镜像仓库的API接口嵌入镜像智能拉取模块,用户通过镜像智能拉取模块实时获取仓库信息。
5.根据权利要求1所述的生信分析任务调度系统,其特征在于,所述任务调度模块的个性化配置通过配置Celery的参数和编写相关业务代码,解决生信分析过程中的计算资源浪费或者挤兑的现象。
6.根据权利要求1所述的生信分析任务调度系统,其特征在于,所述任务运行模块将网页传入的生信分析要求自动解析为参数,包装为Docker的执行命令进行生信分析任务,同时支持对任务的执行情况进行实时监控。
7.根据权利要求6所述的对任务的生信分析任务调度系统,其特征在于,所述执行情况进行实时监控中,所述任务运行模块集成了Celery的监控工具Flower,对各个生信分析任务的执行情况和健康状况进行可视化查看;和/或,
所述Docker执行命令进行生信分析任务中,每个生信分析任务均建立特定的临时文件夹,用于接收分析镜像容器中执行生信分析任务的结果输出,在分析任务全部完成后存入文件系统中。
8.一种如权利要求1-7之任一项所述的基于容器技术的生信分析任务调度系统搭建方法,其特征在于,所述方法包括步骤包括:
步骤一:在需要运行分析任务的主机上安装Docker引擎,并启动;
步骤二:搭建分析镜像仓库模块;
步骤三:编写生信分析流程依赖的系统环境和软件的Dockerfile文件,构建个性化的版本镜像,上传用户镜像仓库;
步骤四:搭建任务调度模块;
步骤五:搭建任务运行模块,编写可视化的网页前端界面,支持分析信息的填写。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于上海欧易生物医学科技有限公司,未经上海欧易生物医学科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202011465097.5/1.html,转载请声明来源钻瓜专利网。
- 上一篇:一种生活污水处理用除臭设备
- 下一篇:一种利于散装商品辅助称重装置