[发明专利]基于增强表现力神经网络批归一化的图像表征方法及系统有效
申请号: | 202011551847.0 | 申请日: | 2020-12-24 |
公开(公告)号: | CN112541857B | 公开(公告)日: | 2022-09-16 |
发明(设计)人: | 程明明;高尚华;韩琦 | 申请(专利权)人: | 南开大学 |
主分类号: | G06T3/00 | 分类号: | G06T3/00;G06T3/60;G06N3/04 |
代理公司: | 济南圣达知识产权代理有限公司 37221 | 代理人: | 黄海丽 |
地址: | 300071*** | 国省代码: | 天津;12 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 基于 增强 表现力 神经网络 归一化 图像 表征 方法 系统 | ||
本发明公开了基于增强表现力神经网络批归一化的图像表征方法及系统,包括:获取目标图像;提取目标图像的特征;对目标图像的特征进行居中校准,得到居中校准后的结果;对居中校准后的结果进行居中归一化处理,得到居中归一化结果;对居中归一化结果进行缩放归一化处理,得到缩放归一化结果;对缩放归一化结果进行缩放校准,得到缩放校准结果;对缩放校准结果进行仿射变换,得到输出特征;基于输出特征对图像进行表征。本申请通过对神经网络模型采用改进的批归一化方式,实现对图像的精确表征。
技术领域
本申请涉及计算机视觉技术领域,特别是涉及基于增强表现力神经网络批归一化的图像表征方法及系统。
背景技术
本部分的陈述仅仅是提到了与本申请相关的背景技术,并不必然构成现有技术。
卷积神经网络(CNN)以其强大的表示能力提高了各种计算机视觉任务的性能。随着结构复杂性和模型参数的增长,CNN面临着更多的培训困难。批量归一化(BatchNorm)通过使用最小批量统计信息约束归一化分布内的中间特征来减轻训练难度。现有方法已经提出了各种标准化技术,以实现更有效的特征标准化和任务指定的特征转换。统计归一化从不同维度和区域计算出的统计信息用于特征非标准化。BatchNorm利用小批量统计信息来标准化中间功能并稳定训练。相反,GhostNorm获取了有关小型虚拟批次的统计信息,以减少泛化错误。EvalNorm在评估过程中重新评估了归一化统计数据。KalmanNorm估算了一个层及其前一层的统计信息。LayerNorm,InstanceNorm和GroupNorm归一化功能,分别具有来自通道,样本和通道组维的统计信息。取代使用一维内的所有像素来计算统计量,局部归一化技术利用了邻近区域的统计量。当小批量统计信息特别不准确时,使用小批量独立统计信息进行归一化可以提高模型的稳定性,但是,由于缺少批处理信息,训练不稳定在许多情况下使其性能不如BatchNorm。MixtureNorm通过高斯混合模型以及每个模式中的独立归一化特征,将分布分解成不同的模式。诸如此类的多规范化组合方法通常需要额外的计算成本才能规范不同维度之间的特征。
在BatchNorm中,对小批量信息的依赖建立在以下假设基础上:从不同实例生成的要素适合通道内的同一分布。但是,这种假设不能总是在以下两种情况下成立:i)训练中的小批量统计数据与测试中的运行统计数据之间可能存在不一致;ii)测试集中的实例可能并不总是属于训练集中的分布。为了避免这两种不一致带来的副作用,一些工作使用了特定于实例的统计信息而不是微型批处理统计信息来规范中间功能。但是,由于缺少批处理信息,训练不稳定在许多情况下使其性能不如BatchNorm。其他作品通过结合多种规范化技术或引入注意机制来利用小批量和实例统计。但是,这些方法通常会带来更多开销,从而使它们在实际使用中不友好。
发明人发现,现有技术所使用的一般归一化层的神经网络模型,缺少批统计信息或者缺少样本级信息,无法实现对图像的精确表征。
发明内容
为了解决现有技术的不足,本申请提供了基于增强表现力神经网络批归一化的图像表征方法及系统;
第一方面,本申请提供了基于增强表现力神经网络批归一化的图像表征方法;
基于增强表现力神经网络批归一化的图像表征方法,包括:
获取目标图像;提取目标图像的特征;
对目标图像的特征进行居中校准,得到居中校准后的结果;
对居中校准后的结果进行居中归一化处理,得到居中归一化结果;
对居中归一化结果进行缩放归一化处理,得到缩放归一化结果;
对缩放归一化结果进行缩放校准,得到缩放校准结果;
对缩放校准结果进行仿射变换,得到输出特征;基于输出特征对图像进行表征。
第二方面,本申请提供了基于增强表现力神经网络批归一化的图像表征系统;
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于南开大学,未经南开大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202011551847.0/2.html,转载请声明来源钻瓜专利网。