[发明专利]深度学习推理引擎的调度方法、装置、设备和介质在审
申请号: | 202010537231.1 | 申请日: | 2020-06-12 |
公开(公告)号: | CN111738446A | 公开(公告)日: | 2020-10-02 |
发明(设计)人: | 杨洪天;何声一;汪学军 | 申请(专利权)人: | 北京百度网讯科技有限公司 |
主分类号: | G06N5/02 | 分类号: | G06N5/02;G06N20/00;G06K9/00 |
代理公司: | 北京品源专利代理有限公司 11332 | 代理人: | 孟金喆 |
地址: | 100085 北京市*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本申请公开了一种深度学习推理引擎的调度方法、装置、设备和介质,涉及人工智能、深度学习和芯片技术。具体实现方案为:响应于来自应用层的针对当前推理任务的调度请求,确定所述当前推理任务的类型;计算每个推理引擎执行所述类型的当前推理任务后的总负载;比较所述每个推理引擎的总负载,根据比较结果从所述每个推理引擎中确定执行所述当前推理任务的目标推理引擎;将所述目标推理引擎的索引返回至所述应用层,其中,所述索引表示推理引擎的调用路径。本申请实施例能根据各推理引擎实际的算力来分配推理引擎,从而提高系统性能。并且,在推理引擎应用于人脸识别时,能提高人脸识别的速度和执行效率。 | ||
搜索关键词: | 深度 学习 推理 引擎 调度 方法 装置 设备 介质 | ||
【主权项】:
暂无信息
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京百度网讯科技有限公司,未经北京百度网讯科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/202010537231.1/,转载请声明来源钻瓜专利网。
- 上一篇:机车信号车载设备软件更新系统及方法
- 下一篇:偏摆落料自动化系统