[发明专利]一种端边云协同卷积神经网络推理方法及系统在审
申请号: | 202210611122.9 | 申请日: | 2022-05-31 |
公开(公告)号: | CN114970824A | 公开(公告)日: | 2022-08-30 |
发明(设计)人: | 杨树森;段亚璐;赵聪;赵鹏;张展华;郭思言;栗海亮 | 申请(专利权)人: | 杭州卷积云科技有限公司 |
主分类号: | G06N3/04 | 分类号: | G06N3/04;G06N3/08;G06N5/04 |
代理公司: | 西安通大专利代理有限责任公司 61200 | 代理人: | 马贵香 |
地址: | 310000 浙江省杭州市余杭*** | 国省代码: | 浙江;33 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 一种端边云协同卷积神经网络推理方法及系统,包括:基于构建的模型压缩方法,得到该模型在所有压缩划分方案下的延时;基于获得的所有压缩划分方案的延时,确定联合压缩划分方案性能上下界;构建在给定CNN划分层上给定压缩率下的模型精度上界估计方法;构建在给定精度要求和CNN划分层时的压缩率决策方法;搜索延时最优的联合最优模型压缩划分方案;运行系统,进行模型推理。本发明通过CNN模型的压缩划分来进行分层级的计算卸载,对通信和计算瓶颈进行联合优化,实现快速的海量终端数据智能分析,通过全等通道剪枝方法和统一仿射量化方法,可靠可控地高效压缩CNN模型在任意给定层上的通信量,显著降低了端边云协同CNN推理的传输延时。 | ||
搜索关键词: | 一种 端边云 协同 卷积 神经网络 推理 方法 系统 | ||
【主权项】:
暂无信息
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于杭州卷积云科技有限公司,未经杭州卷积云科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/202210611122.9/,转载请声明来源钻瓜专利网。