[发明专利]一种基于神经网络结构搜索的混合精度量化感知训练方法在审
申请号: | 202310377705.4 | 申请日: | 2023-04-11 |
公开(公告)号: | CN116721305A | 公开(公告)日: | 2023-09-08 |
发明(设计)人: | 尚凡华;陈飞;刘红英;刘园园;任岩;万亮 | 申请(专利权)人: | 天津大学 |
主分类号: | G06V10/774 | 分类号: | G06V10/774;G06V10/82;G06N3/084;G06N3/0464 |
代理公司: | 西安智大知识产权代理事务所 61215 | 代理人: | 季海菊 |
地址: | 300072*** | 国省代码: | 天津;12 |
权利要求书: | 暂无信息 | 说明书: | 暂无信息 |
摘要: | 一种基于神经网络结构搜索的混合精度量化感知训练方法,包括:输入图像原始数据集,划分训练数据集和验证数据集;获取超网关于训练集的梯度;更新超网权值;获取超网关于验证集的梯度;更新超网的比特重要性参数;保存当前混合精度配置;完成所设定的迭代次数或当前的混合精度配置的复杂度低于期望复杂度;获取不同约束下,目标网络的混合精度配置集合;从模型损失函数最小值区域的平坦性出发,对不同约束下的混合精度网络进行量化感知训练;本发明利用参数共享和卷积算子的计算等价性,以低成本的计算代价搜索在约束条件下模型的最优混合精度配置;通过同时最小化目标损失值和量化损失锐度,进一步提升了低比特量化模型或含有低比特量化层的混合精度模型的泛化能力。 | ||
搜索关键词: | 一种 基于 神经网络 结构 搜索 混合 精度 量化 感知 训练 方法 | ||
【主权项】:
暂无信息
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于天津大学,未经天津大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/202310377705.4/,转载请声明来源钻瓜专利网。