[发明专利]一种多压缩版本的云边端DNN协同推理加速方法在审
申请号: | 202310675653.9 | 申请日: | 2023-06-08 |
公开(公告)号: | CN116663644A | 公开(公告)日: | 2023-08-29 |
发明(设计)人: | 邓晓衡;任芳 | 申请(专利权)人: | 中南大学 |
主分类号: | G06N3/082 | 分类号: | G06N3/082;G06N3/092;G06N3/0464;G06N3/047;G06N3/048;G06N3/042;G06F9/50 |
代理公司: | 长沙轩荣专利代理有限公司 43235 | 代理人: | 李崇章 |
地址: | 410000 湖南*** | 国省代码: | 湖南;43 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本公开实施例中提供了一种多压缩版本的云边端DNN协同推理加速方法,属于计算技术领域,具体包括:步骤1,利用已有数据集对深度神经网络进行多个尺度的压缩,得到多个不同大小版本的DNN模型,对多个版本的DNN模型分类准确率、各层的输出特征图大小以及计算开销进行量化表示,从而计算出在选择分割点后本地和边缘端分别需要的计算总开销,构建量化模型;步骤2,根据量化模型建立计算卸载和资源分配模型;步骤3,利用深度强化学习算法对计算卸载和资源分配模型进行优化,根据任务的服务需求对延迟和准确率进行均衡。通过本公开的方案,提高了推理效率、精准度、适应性和安全性。 | ||
搜索关键词: | 一种 压缩 版本 云边端 dnn 协同 推理 加速 方法 | ||
【主权项】:
暂无信息
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于中南大学,未经中南大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/202310675653.9/,转载请声明来源钻瓜专利网。