[发明专利]模型推理异常处理方法及装置有效
| 申请号： | 202080004963.2 | 申请日： | 2020-10-27 |
| 公开（公告）号： | CN112689827B | 公开（公告）日： | 2022-06-28 |
| 发明（设计）人： | 朱湘毅 | 申请（专利权）人： | 华为技术有限公司 |
| 主分类号： | G06F9/38 | 分类号： | G06F9/38;G06F9/50 |
| 代理公司： | 广州三环专利商标代理有限公司 44202 | 代理人： | 熊永强;李稷芳 |
| 地址： | 518129 广东*** | 国省代码： | 广东;44 |
| 权利要求书： | 查看更多 | 说明书： | 查看更多 |
| 摘要： | 本申请提供了一种模型推理异常处理方法，该方法包括加速器接收并执行应用处理器下发的目标模型推理会话的各模型推理任务，上述目标模型推理会话中包含多个目标任务流，一个目标任务流包含多个模型推理任务；当执行上述目标模型推理会话中任一目标任务流中的任一模型推理任务出现异常时，上述加速器按照异常处理模式执行上述目标模型推理会话中包含的剩余模型推理任务，其中，上述剩余模型推理任务为在上述任一模型推理任务之后执行的所有模型推理任务；上述加速器向上述应用处理器反馈上述目标模型推理会话异常。采用本申请，可以减少模型推理异常造成的计算资源浪费，及时将模型推理异常进行反馈，提高模型推理效率，适用性高。 | ||
| 搜索关键词： | 模型 推理 异常 处理 方法 装置 | ||
【主权项】：
暂无信息
下载完整专利技术内容需要扣除积分，VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息，商用须获得专利权人授权。该专利全部权利属于华为技术有限公司，未经华为技术有限公司许可，擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作，请联系【客服】
本文链接：http://www.vipzhuanli.com/patent/202080004963.2/，转载请声明来源钻瓜专利网。
