[发明专利]模型部署方法、服务器和计算机可读存储介质在审
申请号: | 202010266792.2 | 申请日: | 2020-04-07 |
公开(公告)号: | CN111432022A | 公开(公告)日: | 2020-07-17 |
发明(设计)人: | 邢军华;罗英群;吕令广 | 申请(专利权)人: | 深圳中兴网信科技有限公司 |
主分类号: | H04L29/08 | 分类号: | H04L29/08;H04L12/24;G06N20/00;G06N3/02;G06K9/62 |
代理公司: | 北京友联知识产权代理事务所(普通合伙) 11343 | 代理人: | 尚志峰;王淑梅 |
地址: | 518109 广东省深圳*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本发明提供了一种模型部署方法、服务器和计算机可读存储介质,其中,模型部署方法包括:接收所需任务的数据集,根据数据集进行模型训练,得到训练后的神经网络模型;在服务器上部署tensorflow serving服务框架;基于tensorflow serving服务框架,将训练后的神经网络模型部署在服务器上;响应参数设定指令,对tensorflow serving服务框架进行参数设定;响应并发服务请求,基于参数设定后的所述tensorflow serving服务框架调用训练后的神经网络模型,由于tensorflow serving服务框架的队列机制使得GPU无需等待IO处理,因此利用率高,且tensorflow serving服务框架可自动合并请求成批处理,可进一步提升GPU利用率。 | ||
搜索关键词: | 模型 部署 方法 服务器 计算机 可读 存储 介质 | ||
【主权项】:
暂无信息
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于深圳中兴网信科技有限公司,未经深圳中兴网信科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/202010266792.2/,转载请声明来源钻瓜专利网。
- 上一篇:一种摆动式的农作物烘干装置
- 下一篇:一种芳香减压腰带