[发明专利]一种智能推荐训练服务基于Dolphinscheduler的部署方法在审
申请号: | 202210114666.4 | 申请日: | 2022-01-30 |
公开(公告)号: | CN114416126A | 公开(公告)日: | 2022-04-29 |
发明(设计)人: | 何静;顾秀颖;张英鹏;刘大全 | 申请(专利权)人: | 重庆长安汽车股份有限公司 |
主分类号: | G06F8/61 | 分类号: | G06F8/61;G06F8/71 |
代理公司: | 重庆博凯知识产权代理有限公司 50212 | 代理人: | 孙根 |
地址: | 400020 *** | 国省代码: | 重庆;50 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 智能 推荐 训练 服务 基于 dolphinscheduler 部署 方法 | ||
1.一种智能推荐训练服务基于Dolphinscheduler的部署方法,其特征在于,包括如下步骤:
S1、部署Dolphinscheduler调度系统,安装基础软件并部署Dolphinscheduler调度系统的前后端,配置Dolphinscheduler调度系统相关联的基础软件配置,并调通Dolphinscheduler调度系统;
S2、打包python虚拟环境和智能推荐训练服务,将智能推荐训练服务所依赖的python依赖包打包进python虚拟环境,以供智能推荐训练服务运行时调用,并将智能推荐训练服务的代码文件、脚本文件及相关文件打包,以供智能推荐训练服务运行;
S3、运行Dolphinscheduler调度系统,并在Dolphinscheduler调度系统的前端配置智能推荐训练服务运行方案,配置完成后运行智能推荐训练服务并监控其执行情况。
2.根据权利要求1所述的一种智能推荐训练服务基于Dolphinscheduler的部署方法,其特征在于,所述Dolphinscheduler调度系统的部署包括以下步骤,
S101、设置多台服务器,所述服务器中包括一台UI兼Api服务器、两台Master服务器、三台work服务器,并在每台服务器上均安装基础软件;
S102、在master服务器上创建多个部署用户,并设置所有部署用户具有sudo权限且相互免密;
S103、创建mysql数据库用于存放Dolphinscheduler元数据并初始化该数据库;
S104、修改Dolphinscheduler环境变量;
S105、修改Dolphinscheduler部署配置文件;
S106、运行部署脚本;
S107、部署用户创建租户并设置租户权限,所述租户用于在Dolphinscheduler调度系统的前端配置所述智能推荐服务运行方案。
3.根据权利要求1所述的一种智能推荐训练服务基于Dolphinscheduler的部署方法,其特征在于,所述打包python虚拟环境和智能推荐训练服务包括以下步骤,
S201、通过Anaconda创建虚拟环境并安装智能推荐训练服务所需要的python库文件,并压缩成压缩文件包,以供智能推荐训练服务调用;
S202、打包智能推荐训练服务自身的公共服务压缩文件包;
S203、进入智能推荐训练服务场景目录并通过zip命名生成工程压缩文件包。
4.根据权利要求1所述的一种智能推荐训练服务基于Dolphinscheduler的部署方法,其特征在于,所述在DolphinScheduler前端配置智能推荐训练服务运行方案包括以下步骤,
S301、进入DolphinScheduler调度系统前端,在其资源中心上传S2打包的文件;
S302、在智能推荐训练服务管理处配置工作流;
S303、上线工作流。
5.根据权利要求4所述的一种智能推荐训练服务基于Dolphinscheduler的部署方法,其特征在于,所述配置工作流包括创建项目、定义和配置工作流,编辑工作流,编辑调度任务脚本,添加资源,编辑工作流执行定时任务中的一种或多种。
6.根据权利要求5所述的一种智能推荐训练服务基于Dolphinscheduler的部署方法,其特征在于,所述工作流上线后,DolphinScheduler调度系统定期执行定时任务或者临时任务,查看运行日志,并监控cpu和内存的消耗情况。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于重庆长安汽车股份有限公司,未经重庆长安汽车股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202210114666.4/1.html,转载请声明来源钻瓜专利网。