[发明专利]模型部署方法、装置、设备和存储介质在审
申请号: | 202010443415.1 | 申请日: | 2020-05-22 |
公开(公告)号: | CN111612158A | 公开(公告)日: | 2020-09-01 |
发明(设计)人: | 李旭滨;詹学君 | 申请(专利权)人: | 云知声智能科技股份有限公司;厦门云知芯智能科技有限公司 |
主分类号: | G06N20/00 | 分类号: | G06N20/00 |
代理公司: | 暂无信息 | 代理人: | 暂无信息 |
地址: | 100096 北京市海*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 模型 部署 方法 装置 设备 存储 介质 | ||
本发明提供一种模型部署方法、装置、设备和存储介质,方法包括:若接收到训练请求,基于所述训练请求携带的样本数据进行训练,得到训练模型;将所述训练模型部署到指定目录;将所述训练模型的标识和所述指定目录推送给模型服务器,以使所述模型服务器根据所述训练模型的标识和所述指定目录,加载所述训练模型,实现了在不重新启动模型服务器的情况下,自动部署训练模型,并且在部署训练模型过程中,不影响模型服务器的使用。采用本发明的技术方案,能够提高模型部署效率。
技术领域
本发明涉及人工智能技术领域,尤其涉及一种模型部署方法、装置、设备和存储介质。
背景技术
目前,Bert模型等机器学习模型在训练阶段和应用阶段是相互分离的状态,即在训练阶段用大量数据运算训练出需要的模型,在应用阶段则将训练的模型手动建立可执行的程序,重启模型服务器就可以加载训练的模型。例如,采用Bert训练代码去加载收集好的训练集一起跑一次模型训练,然后使用整理好的测试集进行模型验证,模型验证完成后,手动建立成可执行的程序,重启模型服务器就可以加载训练的模型,实现模型的新增、更新等。
但是,在新增、更新模型时,由于需要手动建立可执行的程序,并重新启动模型服务器,使得模型服务器无法使用,降低了模型部署效率。
发明内容
有鉴于此,本发明的目的在于提出一种模型部署方法、装置、设备和存储介质,以解决现有技术中模型部署效率较低的问题。
基于上述目的,本发明提供了一种模型部署方法,包括:
若接收到训练请求,基于所述训练请求携带的样本数据进行训练,得到训练模型;
将所述训练模型部署到指定目录;
将所述训练模型的标识和所述指定目录推送给模型服务器,以使所述模型服务器根据所述训练模型的标识和所述指定目录,加载所述训练模型。
进一步地,上述所述的模型部署方法中,所述基于所述训练请求携带的样本数据进行训练,得到训练模型,包括:
基于所述样本数据中的训练集的标识和第一存储目录,加载所述训练集;
对所述训练集进行训练,得到预训练模型;
基于所述样本数据中的测试集的标识和第二存储目录,加载所述测试集;
将所述测试集输入所述预训练模型,得到测试结果;
若所述测试结果满足预设的模型上线条件,将所述预训练模型作为所述训练模型。
进一步地,上述所述的模型部署方法中,所述指定目录设置在所述模型服务器中。
进一步地,上述所述的模型部署方法,还包括:
确定所述样本数据对应的意图信息;
基于预设的意图与训练算法的关联关系,确定所述意图信息对应的训练算法,以便利用所述训练算法进行训练。
本发明还提供一种模型部署装置,包括:
训练模块,用于若接收到训练请求,基于所述训练请求携带的样本数据进行训练,得到训练模型;
部署模块,用于将所述训练模型部署到指定目录;
推送模块,用于将所述训练模型的标识和所述指定目录推送给模型服务器,以使所述模型服务器根据所述训练模型的标识和所述指定目录,加载所述训练模型。
进一步地,上述所述的模型部署装置中,所述训练模块,具体用于:
基于所述样本数据中的训练集的标识和第一存储目录,加载所述训练集;
对所述训练集进行训练,得到预训练模型;
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于云知声智能科技股份有限公司;厦门云知芯智能科技有限公司,未经云知声智能科技股份有限公司;厦门云知芯智能科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202010443415.1/2.html,转载请声明来源钻瓜专利网。