[发明专利]一种基于神经网络结构搜索的混合精度量化感知训练方法在审

专利信息
申请号: 202310377705.4 申请日: 2023-04-11
公开(公告)号: CN116721305A 公开(公告)日: 2023-09-08
发明(设计)人: 尚凡华;陈飞;刘红英;刘园园;任岩;万亮 申请(专利权)人: 天津大学
主分类号: G06V10/774 分类号: G06V10/774;G06V10/82;G06N3/084;G06N3/0464
代理公司: 西安智大知识产权代理事务所 61215 代理人: 季海菊
地址: 300072*** 国省代码: 天津;12
权利要求书: 暂无信息 说明书: 暂无信息
摘要: 一种基于神经网络结构搜索的混合精度量化感知训练方法,包括:输入图像原始数据集,划分训练数据集和验证数据集;获取超网关于训练集的梯度;更新超网权值;获取超网关于验证集的梯度;更新超网的比特重要性参数;保存当前混合精度配置;完成所设定的迭代次数或当前的混合精度配置的复杂度低于期望复杂度;获取不同约束下,目标网络的混合精度配置集合;从模型损失函数最小值区域的平坦性出发,对不同约束下的混合精度网络进行量化感知训练;本发明利用参数共享和卷积算子的计算等价性,以低成本的计算代价搜索在约束条件下模型的最优混合精度配置;通过同时最小化目标损失值和量化损失锐度,进一步提升了低比特量化模型或含有低比特量化层的混合精度模型的泛化能力。
搜索关键词: 一种 基于 神经网络 结构 搜索 混合 精度 量化 感知 训练 方法
【主权项】:
暂无信息
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。

该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于天津大学,未经天津大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服

本文链接:http://www.vipzhuanli.com/patent/202310377705.4/,转载请声明来源钻瓜专利网。

同类专利
专利分类
×

专利文献下载

说明:

1、专利原文基于中国国家知识产权局专利说明书;

2、支持发明专利 、实用新型专利、外观设计专利(升级中);

3、专利数据每周两次同步更新,支持Adobe PDF格式;

4、内容包括专利技术的结构示意图流程工艺图技术构造图

5、已全新升级为极速版,下载速度显著提升!欢迎使用!

请您登陆后,进行下载,点击【登陆】 【注册】

关于我们 寻求报道 投稿须知 广告合作 版权声明 网站地图 友情链接 企业标识 联系我们

钻瓜专利网在线咨询

周一至周五 9:00-18:00

咨询在线客服咨询在线客服
tel code back_top